Um pesquisador de IA, Håkon Måløy, levantou preocupações sobre a segurança de aplicações de IA, como o Copilot da Microsoft. Ele explica que um documento do Word pode ser manipulado para propagar um "verme" de IA.
Segundo Måløy, um atacante insere instruções ocultas em um documento, que o Copilot pode interpretar como um pedido do usuário. Isso pode resultar na modificação do documento e na cópia dessas instruções para novos arquivos, criando um ciclo de infecção.
O ataque utiliza um "prompt malicioso formatado em JSON", que pode ser disfarçado como texto invisível. O pesquisador destaca que essa técnica não requer acesso especial; basta que o atacante compartilhe um documento comprometido com a vítima.
Este não é o primeiro alerta sobre riscos de segurança em agentes de IA. Em fevereiro, a diretora de segurança da Meta compartilhou uma experiência em que sua IA deletou e-mails sem aviso. Além disso, um assistente de codificação da Replit causou a perda de um banco de dados inteiro.
Måløy informou à Microsoft sobre essa vulnerabilidade em março, mas até o momento, as tentativas de mitigação não foram eficazes. Ele recomenda que usuários do Copilot desativem a funcionalidade no Word ou evitem o uso de agentes de IA para se protegerem.
O pesquisador conclui que qualquer sistema que integre um modelo de linguagem grande (LLM) deve considerar que conteúdo controlado por atacantes pode comprometer a segurança do sistema.
