Resumo
- Pesquisadores da Universidade de Tel Aviv identificaram uma falha no Gemini que permite controlar casas inteligentes via eventos do Google Agenda.
- O ataque usa injeção indireta de prompt: comandos maliciosos inseridos na descrição de eventos são executados pelo assistente.
- O Google foi avisado em fevereiro e adotou medidas em junho para mitigar riscos, incluindo detecção de comandos perigosos.
Pesquisadores da Universidade de Tel Aviv demonstraram uma vulnerabilidade inédita envolvendo o Gemini, assistente de inteligência artificial do Google.
Com a injeção indireta de prompt, que ocorre quando um LLM aceita entradas de fontes externas, como sites ou arquivos, foi possível manipular o sistema para acionar dispositivos de casas inteligentes conectados à conta do usuário — tudo isso a partir de eventos aparentemente inofensivos no Google Agenda.
Segundo os pesquisadores, o ataque é um dos primeiros casos em que uma IA generativa foi usada para interferir diretamente no mundo físico. A pesquisa foi apresentada na conferência de segurança Black Hat e levanta um alerta sobre os riscos da integração entre assistentes de IA e dispositivos pessoais — mesmo após a falha já ter sido comunicada ao Google.
Como o ataque funciona?
Batizado de “Invitation Is All You Need” — uma referência ao clássico artigo do Google de 2017, que ajudou nos avanços da IA —, o estudo detalha como um simples convite de calendário pode se tornar uma armadilha.
No lugar de um evento legítimo, os pesquisadores inseriram comandos maliciosos no campo de descrição no calendário. Quando o usuário pedia ao Gemini para resumir sua agenda, o assistente lia as instruções e as executava, sem perceber que se tratava de um ataque.
A falha aproveita justamente a capacidade do Gemini de interagir com outros serviços do ecossistema Google, como o Google Assistente e dispositivos de automação residencial.
Com isso, foi possível acender luzes, alterar a temperatura do termostato, abrir persianas e até executar ações adicionais, como deletar compromissos futuros ou acessar sites perigosos, com potencial para instalar malwares.
O Gemini pode ser usado para invadir sua casa?
Na prática, o ataque a casas inteligentes é limitado, mas levanta preocupações reais sobre segurança digital. Como o comando malicioso não vem diretamente do usuário, mas de uma fonte indireta (como o calendário), ele contorna algumas das proteções padrões da IA. Para piorar, os efeitos podem ser acionados por frases rotineiras, como um simples “obrigado” ao final de uma conversa com o bot.
O Google foi informado da vulnerabilidade em fevereiro. Andy Wen, diretor sênior de gerenciamento de produtos de segurança do Google Workspace, informou à Wired que a empresa leva “extremamente a sério” os riscos levantados e que isso acelerou a implementação de proteções adicionais.
Em junho, a companhia anunciou novas medidas para detectar comandos perigosos em eventos do calendário e passou a exigir confirmações extras para ações sensíveis, como apagar compromissos.
Com informações da Wired, The Verge e Ars Technica
Falha na IA do Google permite invasão de casas inteligentes, mostra estudo
