Resumo
- X/Twitter restringiu o Grok após críticas e investigações sobre deepfakes e nudez não consensual.
- A plataforma enfrenta críticas por falhas nos filtros de segurança, e testes recentes indicam que a geração de conteúdos banidos ainda é possível.
- Investigações e possíveis sanções jurídicas pressionam o X a implementar medidas de controle efetivas.
A rede social X anunciou ontem (14/01) que não vai mais permitir que o Grok, seu chatbot de inteligência artificial, gere imagens sexualizadas e deepfakes não consensuais de pessoas.
A medida responde à pressão internacional, investigações e a denúncias de que a ferramenta vinha sendo usada para criar conteúdos de nudez sem consentimento. Contudo, apesar da promessa de implementar barreiras mais rígidas, testes recentes indicam que as novas restrições ainda são frágeis e podem ser contornadas.
Por que o X restringiu recursos do Grok?
A decisão ocorre em um momento de crise. Nas últimas semanas, a plataforma enfrentou uma enxurrada de críticas após usuários demonstrarem que era possível utilizar o chatbot para “despir” pessoas reais ou criar montagens obscenas envolvendo figuras públicas e anônimas.
A principal mudança estabelece que o Grok não permitirá mais a edição de imagens de pessoas reais em contextos de “roupas reveladoras”, como biquínis e trajes de banho.
Além do bloqueio, a rede social decidiu restringir a funcionalidade de geração e edição de imagens apenas para assinantes pagos. Segundo o comunicado, a exigência de uma assinatura facilita a identificação e a punição de indivíduos que tentem utilizar a IA para violar leis ou termos de serviço.
Longe de ser uma decisão voluntária, o recuo do X foi uma resposta a sanções jurídicas e investigações. Na dianteira está o estado da Califórnia (EUA), que instaurou uma investigação contra a xAI — startup de IA de Elon Musk — e o chatbot Grok.
A ação é baseada em uma análise técnica que revelou um dado alarmante: de 20 mil imagens geradas pela ferramenta entre o Natal e o Ano Novo, mais de 10 mil retratavam pessoas com pouca roupa, incluindo geração de conteúdo com menores de idade.
Simultaneamente, o órgão regulador do Reino Unido (Ofcom) iniciou uma investigação sobre o cumprimento das leis de segurança online pela plataforma. O primeiro-ministro Keir Starmer declarou publicamente que a empresa poderia sofrer sanções caso não demonstrasse controle efetivo sobre a produção de conteúdos abusivos.
A pressão foi global. Conforme reportado pelo The Guardian, países como Malásia e Indonésia bloquearam o acesso ao Grok por preocupações com a disseminação de material sexual explícito.
No continente europeu, a UE sinalizou que investigações sob a Lei de Serviços Digitais (DSA) podem resultar em multas multibilionárias caso a plataforma não resolva os riscos causados por sua tecnologia.
Barreiras burladas
A plataforma sustenta que as novas medidas de segurança já estão em vigor, mas evidências sugerem que a solução prometida é, até o momento, parcial.
The Verge e The Telegraph apontam que, mesmo após a atualização das políticas, ainda é possível induzir o chatbot a gerar conteúdos banidos por engenharia de prompt. Em testes realizados nesta quarta-feira (14/01), foi possível contornar os filtros utilizando comandos modificados.
Outra contradição surgiu na nova política de acesso: apesar da afirmação de que a ferramenta de imagem seria exclusiva para assinantes Premium, relatos indicam que contas gratuitas ainda mantém acesso à funcionalidade.
Elon Musk, dono do X, minimizou as falhas iniciais. O bilionário atribuiu os resultados indesejados a “ataques maliciosos a prompts” — quando usuários tentam intencionalmente quebrar as regras da IA — e afirmou não ter conhecimento de imagens de menores geradas pela ferramenta.
Musk defendeu que, com a configuração NSFW (conteúdo impróprio) ativada, o Grok permite apenas a nudez de “humanos adultos imaginários”, comparando o critério ao de filmes de classificação restrita.
