Em meio a uma crescente polêmica, a OpenAI decidiu remover uma funcionalidade controversa do ChatGPT que, inadvertidamente, permitia que conversas particulares e altamente pessoais fossem expostas em resultados de pesquisa do Google. A revista Fast Company revelou o problema na quarta-feira, relatando que milhares de conversas do ChatGPT já haviam sido encontradas nos resultados de busca e que isso很可能representava apenas uma amostra das conversas "visíveis a milhões" de pessoas.
Privacidade em risco Ainda que o indexamento não incluísse informações identificáveis sobre os usuários do ChatGPT, algumas conversas continham detalhes pessoais高度specificos, como descrições de relacionamentos interpessoais com amigos e familiares. Isso poderia tornar possível a identificação das pessoas envolvidas.
Segundo Dane Stuckey, o chefe de segurança da informação da OpenAI, todos os usuários cujas conversas foram expostas haviam optado por indexar suas conversas clicando em uma caixa após escolher a opção de compartilhar um chat. No entanto, muitos usuários podem ter sido enganados ao compartilhar chats devido à forma como o texto era formatado.
"Quando os usuários clicavam em 'Compartilhar', eram apresentados com a opção de marcar uma caixa rotulada 'Torne este chat descobrível'. Abaixo disso, em um texto menor e mais leve, havia uma ressalva explicando que o chat poderia então aparecer nos resultados de pesquisa dos motores de busca," relatou a Fast Company.
A OpenAI inicialmente defendeu que a label era "suficientemente clara", mas Stuckey confirmou que, no final, a empresa decidiu que a funcionalidade "introduzia muitas oportunidades para que as pessoas compartilhassem coisas que não pretendiam." Isso incluía conversas sobre o uso de drogas, vida sexual, saúde mental e experiências traumáticas.
Carissa Veliz, uma ética de IA da Universidade de Oxford, disse à Fast Company que ficou "assustada" ao saber que o Google estava registrando essas conversas高度sensíveis. Stuckey chamou a funcionalidade de um "experimento de curta duração" lançado para ajudar as pessoas a descobrir conversas úteis.
Agora, a OpenAI removeu a funcionalidade e está tentando retirar o conteúdo indexado dos motores de busca até a manhã de sexta-feira. No entanto, é possível que as conversas desapareçam mais rapidamente nos resultados do Google do que em outros motores de busca, já que a ferramenta usada pelo Google para bloquear páginas não impede que outras empresas indexem o conteúdo.
Véliz alertou que mesmo um "experimento curto" como esse é "perturbador", pois as empresas de tecnologia usam a população em geral como "cobaias." Elas oferecem produtos novos e interessantes para atrair usuários, esperando ver quais consequências enfrentarão pelas decisões invasivas.
Enquanto isso, Altman, o CEO da OpenAI, considerou a possibilidade de que as conversas mais privadas dos usuários pudessem ser pesquisadas como "algo errado," mas não pareceu tão transparente ou crítico em relação ao potencial da própria empresa para expor conversas privadas no Google e outros motores de busca.
