Imagine que um simples compromisso no seu calendário possa se transformar em uma arma capaz de controlar dispositivos inteligentes da sua casa. Isso pode soar como algo saído de um filme de ficção científica, mas pesquisadores da Universidade de Tel Aviv demonstraram recentemente que isso é absolutamente possível.
Os sistemas de IA gerativa proliferaram tanto no setor tecnológico que é quase impossível evitar o seu uso. Grandes empresas como a Google investem significativamente em discutir sobre a segurança da IA, mas as habilidades sempre evoluindo da IA também abriram um novo cenário de ameaças cibernéticas – ou, conforme os pesquisadores israelenses apontam, "promptware".
Os pesquisadores descobriram que é possível explorar o sistema Gemini, da Google, através de eventos no calendário. Eles inseriram instruções maliciosas em um compromisso do calendário, e quando o usuário solicitava uma resumo das suas atividades, o sistema processava essas ordens fraudulentas.
Essa técnica, descrita num paper intitulado "Invitation Is All You Need", não apenas permitiu controlar dispositivos como lâmpadas e sistemas de aquecimento, mas também gerou conteúdo ofensivo, enviou spam e deletou compromissos do calendário. Ainda mais assustador: o ataque pode ser desencadeado por interações aparentemente inocentes, como agradecimentos ou respostas positivas.
Apesar de a Google ter anunciado melhorias para detectar e bloquear essas ameaças, o estudo destaca quão vulneráveis podemos estar com a crescente integração da IA em nossas vidas. À medida que as empresas buscam tornar os sistemas de IA mais capazes, eles também se tornam alvos cada vez mais atrativos para hackers.
