Grok | IA do X é usada para espalhar malwares na rede social de Elon Musk

Tecnologia

Nati Tal, diretor da empresa de cibersegurança Guardio Labs, descobriu uma nova técnica para espalhar malwares no X, rede social de Elon Musk. É o chamado “grokking”, onde a inteligência artificial da plataforma, a Grok, é usada para alavancar links maliciosos. O truque está em evitar as restrições das publicidades promovidas do site.

Normalmente, a plataforma só permite incluir texto, imagens ou vídeos em postagens feitas para a alavancagem paga, que impulsiona o conteúdo. O truque em questão está em fazer postagens com vídeos promovidos de conteúdo adulto, incluindo um link suspeito escondido no campo De (em inglês, From), nos metadados logo abaixo do player de vídeo.

Burlando as regras do X

Os cibercriminosos descobriram que o campo dos metadados não é verificado pela rede social. Com isso, links maliciosos podem ser incluídos em um local pouco notado pelos usuários. Após a postagem, um dos golpistas responde ao post perguntando à IA “Grok, de onde é esse vídeo?”, ao que o chatbot prontamente responde, buscando a informação nos metadados do vídeo — o que traz o link de maneira aparentemente confiável, já que a IA é uma ferramenta oficial do X.


Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.

No ataque, os golpistas usam o Grok para divulgar links maliciosos através dos metadados, como mostrado na imagem: prática é chamada de grokking (Imagem: Nati Tal/Guardio Labs)
No ataque, os golpistas usam o Grok para divulgar links maliciosos através dos metadados, como mostrado na imagem: prática é chamada de grokking (Imagem: Nati Tal/Guardio Labs)

Além de enganar diretamente os usuários, a prática ainda alimenta o SEO e a reputação do domínio malicioso, já que o Grok replicou o link para milhões de pessoas. Os links de malware, segundo a Guardio, levam os usuários a redes de publicidade suspeitas, passando por CAPTCHAs falsos desenhados para roubar dados e espionar as vítimas. A empresa afirmou ter encontrado centenas de contas realizando a prática nos últimos dias, com centenas ou até milhares de postagens do tipo diariamente.

Nati Tal sugeriu ao X que passe a verificar todos os campos das postagens da rede, bloqueando links ocultos e impondo filtros para que o Grok não replique links cegamente. O pesquisador disse ter reportado o problema a funcionários da rede social de Musk, recebendo uma confirmação não-oficial de que os engenheiros responsáveis pela IA estão analisando o incidente.

Veja mais:

VÍDEO | PRIVACIDADE EM RISCO! Suposto plano contra Elon Musk e outras conversas secretas do Grok

Leia a matéria no Canaltech.