A era da inteligência artificial (IA) trouxe consigo não apenas avanços tecnológicos, mas também desafios inesperados. Entre eles, o fenômeno conhecido como 'AI slop' — imagens, vídeos e textos de baixa qualidade gerados por modelos linguísticos grandes (LLMs, na sigla em inglês) — que invadiu as redes, sites e até mesmo meios de comunicação. Agora, a indústria de segurança cibernética enfrenta um problema sem precedentes: relatórios falsos de vulnerabilidades criados por IA que prometem ouros mas entregam lama.
Esses relatórios fraudulentos, chamados de 'bug bounty reports', afirmam ter descoberto brechas que, na verdade, não existem. Trata-se de criações inteiramente imaginadas por algoritmos que são incapazes de discernir entre a verdade e a mentira. Vlad Ionescu, co-fundador e CTO da RunSybil, explica que muitos desses relatórios parecem técnicos e convincentes, mas na realidade não passam de 'ilusões' geradas por máquinas.
'As pessoas recebem relatórios que parecem razoáveis e técnicamente corretos. Até que você começa a mergulhar neles e se pergunta: onde está essa vulnerabilidade? E descobre que foi tudo uma invenção', disse Ionescu à TechCrunch.
A situação é ainda piorada pelo fato de que plataformas de bug bounty, intermediárias entre hackers e empresas, estão recebendo um influxo de tais relatórios. Michiel Prins, co-fundador da HackerOne, admitiu que o aumento de falsos positivos está prejudicando a eficiência dos programas de segurança. Casey Ellis, fundador da Bugcrowd, apontou que虽然 há uma tendência de crescimento nas submissões, ainda não houve um spike significativo de relatórios de baixa qualidade.
Enquanto isso, empresas como Mozilla relatam que não têm visto um aumento substancial em relatórios fraudulentos. No entanto, a tendência é clara: à medida que mais pessoas usam IA para encontrar e reportar vulnerabilidades, a necessidade de sistemas mais robustos para filtrar e validar essas informações se torna cada vez mais crucial.
Em um mundo onde até os próprios desenvolvedores reconhecem que a IA pode ser tanto aliada quanto inimiga, a pergunta que fica é: como podemos confiar em uma tecnologia que, por vezes, parece estar jogando contra si mesma?
