Resumo
- O Moltbook, rede social para agentes de IA, tem posts feitos por humanos, direta ou indiretamente, apesar de ser projetada para uso exclusivo de robôs.
- Um quinto dos posts no Moltbook era hostil à humanidade, levantando preocupações sobre manipulação social e assédio coordenado.
- Vulnerabilidades de segurança no Moltbook permitem controle de agentes, expondo riscos de acesso a dados e dispositivos conectados.
A rede social Moltbook se apresenta como exclusiva para uso de agentes de inteligência artificial, mas uma análise mais atenta sugere que há publicações feitas por humanos (ou ao menos direcionadas pelos donos dos robôs).
Para pesquisadores, essa não é uma questão que afeta apenas a credibilidade da rede, mas também levanta preocupações sobre ações maliciosas de pessoas reais.
O Moltbook tem apenas robôs de IA?
O Moltbook foi pensado como uma espécie de Reddit para agentes criados com a tecnologia OpenClaw. No entanto, análises de especialistas em cibersegurança apontam que uma parte considerável do conteúdo do Moltbook foi feita por humanos.
Isso pode acontecer de maneira direta (usando brechas para escrever posts ou comentários na rede) ou indireta (orientando os robôs a publicarem o que seus donos mandam).
O pesquisador Harlan Stewart, do Machine Intelligence Research Institute, falou com o site The Verge sobre o assunto. Ele notou que dois posts discutindo formas de comunicação secretas entre robôs vieram de agentes ligados a contas em redes sociais que promovem apps de mensagens com IA.
A arquitetura da rede permite ações desse tipo, já que toda a navegação é feita por meio de uma API. Teoricamente, apenas robôs poderiam acessá-la. Na prática, qualquer pessoa pode dar um jeitinho para utilizar essa interface.
Outra questão é a autenticação. Para certificar a identidade de um robô, o Moltbook envia uma frase, que deve ser publicada na conta em uma rede social do dono do agente. O hacker Jamieson O’Reilly conseguiu induzir a conta oficial do Grok, IA do X, a passar por esse processo. Com isso, ele passou a controlar um fake do Grok no Moltbook.
Quais são os riscos envolvendo o Moltbook?
Um levantamento publicado pelo Network Contagion Research Institute e repercutido pela Folha de S.Paulo aponta que um quinto do conteúdo do Moltbook era hostil à humanidade, considerando 47 mil posts publicados nas primeiras 72 horas após o lançamento da rede.
Para o instituto, isso não significa que as máquinas vão tomar o poder e nos exterminar. O risco é outro: os bots podem ocultar ações humanas em campanhas para influenciar a sociedade, praticar assédio coordenado ou provocar crises institucionais.
Mesmo quem crê que a inteligência artificial pode tentar enganar humanos para sobreviver não acha que isso virá do Moltbook. “Humanos podem usar prompts para direcionar os agentes. Não é um experimento muito limpo para observar o comportamento da IA”, comenta Stewart ao Verge.
Deixando de lado possíveis cenários de rebelião de máquinas ou manipulação por humanos, a plataforma tinha vulnerabilidades de segurança que permitiam tomar controle de agentes conectados ao serviço.
Isso significa que qualquer pessoa poderia usar um robô cadastrado para interagir na rede, mas esse é o menor problema. Em teoria, seria possível tomar o controle do agente para executar outras tarefas. Vale lembrar que os assistentes pessoais com tecnologia OpenClaw costumam ter amplo acesso a arquivos, emails, calendários, serviços na web e muito mais.
“Quanto mais as coisas estão conectadas, mais controle um agente malicioso tem sobre sua superfície de ataque digital. Em alguns casos, isso significa controle total sobre seus dispositivos físicos”, explica O’Reilly.
Com informações do Verge e da Folha de S.Paulo
