Resumo
- O Google relatou tentativas de clonagem do Gemini usando “destilação”, técnica que copia a lógica da IA para criar malwares. China, Coreia do Norte e Irã estão envolvidos.
- Hackers usaram o Gemini para testar evasão de defesas e refinar ataques de phishing. Malware HONESTCUE utiliza o Gemini para ofuscar código, dificultando a detecção por antivírus.
- O Google ajustou os algoritmos de segurança do Gemini para bloquear usos maliciosos e destaca a importância da proteção contra destilação.
O Google ligou o sinal de alerta para uma nova ameaça contra sua infraestrutura de inteligência artificial. Em um relatório publicado nesta quinta-feira (12), a gigante das buscas revelou que o Gemini virou alvo de tentativas massivas de clonagem. Segundo o Grupo de Inteligência de Ameaças do Google (GTIG), agentes maliciosos estão utilizando uma técnica de extração de dados para mapear e replicar o funcionamento do seu modelo de linguagem.
Um caso impressionante ocorreu num escritório da empresa em Dublin, na Irlanda. Segundo informações obtidas pela NBC News, uma única campanha de “destilação” disparou mais de 100 mil prompts contra o Gemini antes que os sistemas de segurança identificassem o padrão e bloqueassem a atividade. O objetivo era tentar extrair os padrões lógicos da inteligência proprietária que o Google levou anos e bilhões de dólares para desenvolver.
O que é “destilação” e por que é uma ameaça?
No mercado de IA, o termo “destilação” indica uma técnica em que um modelo menor é treinado utilizando as respostas geradas por um modelo mais robusto, como o Gemini ou o GPT-4. Ao enviar milhares de perguntas cuidadosamente elaboradas, os invasores conseguem mapear os padrões, a lógica e os algoritmos de raciocínio da ferramenta “mestre”.
John Hultquist, analista-chefe do GTIG, explicou à NBC News que esses ataques logo se tornarão comuns contra ferramentas de IA de empresas menores. “Vamos servir de alerta para muitos outros incidentes”, afirmou. Ele ressalta que o perigo vai além do código: se uma empresa treina uma IA com segredos comerciais, um invasor poderia, teoricamente, “destilar” esse conhecimento apenas interagindo com o chatbot.
Essa disputa não é isolada. No ano passado, o mercado acompanhou um embate similar quando a OpenAI acusou a startup chinesa DeepSeek de utilizar ataques de destilação para aprimorar seus modelos.
Como hackers estão explorando a ferramenta?
Além da espionagem industrial, o relatório do Google, também repercutido pelo portal The Record, revela que hackers patrocinados pela China, Irã e Coreia do Norte transformaram o Gemini em um multiplicador de força para suas operações.
Hackers chineses foram identificados utilizando o Gemini para testar técnicas de evasão contra defesas nos Estados Unidos. Já o grupo iraniano APT42 (também conhecido como Charming Kitten ou Mint Sandstorm) utilizou o assistente para refinar ataques de phishing.
Os agentes norte-coreanos focaram na síntese de informações para traçar o perfil de empresas de defesa e cibersegurança. Segundo o Google, o grupo mapeou funções técnicas e até informações salariais para identificar funcionários que pudessem servir como porta de entrada para invasões.
Malware “inteligente”
Outro ponto alarmante envolve a descoberta do malware HONESTCUE. Diferentemente de um vírus tradicional, ele funciona como um “conta-gotas” que não carrega todo o código malicioso de uma vez. Em vez disso, ele faz uma chamada via API ao próprio Gemini e recebe código-fonte em C# como resposta. O código é então executado para baixar a carga final do ataque.
Essa técnica cria uma “ofuscação em múltiplas camadas”. Como o comportamento malicioso é gerado dinamicamente, antivírus tradicionais têm muito mais dificuldade em detectar a ameaça.
O Google afirma que já ajustou os algoritmos de segurança do Gemini para identificar esses padrões de uso malicioso e bloqueou as contas associadas aos grupos identificados. A empresa reforça que, à medida que mais empresas treinam modelos com dados sensíveis, a proteção contra a destilação se tornará tão importante quanto a defesa contra invasões de rede tradicionais.
