A era das redes sociais descentralizadas prometia mais liberdade e democratização do conteúdo, mas parece que estamos caminhando para um futuro onde a ausência de ferramentas adequadas para moderação pode custar caro. Em recente entrevista, Yoel Roth, ex-chefe de Trust and Safety da Twitter, agora na Match, alerta para os desafios enfrentados pela 'fediverse' — a rede social aberta que inclui plataformas como Mastodon, Threads e Bluesky.
Entre as principais preocupações está a luta contra fake news, spam e até mesmo o conteúdo ilegal, como material de abuso sexual infantil. Roth lembra de momentos marcantes na história da moderação da Twitter, como a suspensão do presidente Trump e os ataques de bots russos. "Acredite, muitas vezes tínhamos que lidar com situações em que连adoresнут ourselves para proteger o usuário, mas sem recursos suficientes para isso", disse ele.
Mesmo empresas como Bluesky, que investiram em moderação, encontram dificuldades. "Quando a rede se decentraliza, surge a dúvida: quem tem responsabilidade de proteger o indivíduo contra os interesses da comunidade?" questiona Roth. É um dilema filosófico que põe em xeque o equilíbrio entre privacidade e segurança.
Outro ponto crítico é a economia por trás da moderação. Projetos como o IFTAS, criado para fornecer ferramentas de moderação à fediverse, tiveram que fechar因其运营成本过高。 "Quando as pessoas precisam sustentar suas famílias e os custos de computação não param de subir, é difícil manter esses esforços voluntários", explica Roth.
Enquanto isso, a inteligência artificial parece ser a única solução viável no horizonte. "Se você começar analisando o conteúdo em si, está numa guerra perdida contra os modelos de linguagem de ponta", avisa Roth. A chave está nos sinais comportamentais — como padrões de postagem anômalas ou múltiplos perfis.
Enfim, a web social parece estar no limiar de uma nova era, onde os valores da liberdade e da segurança precisam coexistir. E talvez, como diria um filósofo moderno, "a liberdade sem responsabilidade é apenas outra forma de anarquia".
