A IA pode “alucinar de 32 formas”. Essa é a descoberta presente em um estudo publicado no último mês de agosto na revista Electronics. A pesquisa propôs que os desvios de comportamento das máquinas guardam semelhança com transtornos psiquiátricos humanos. A proposta dos autores foi inspirada em modelos como o Manual Diagnóstico e Estatístico de Transtornos Mentais (DSM), usado na psiquiatria. A partir da análise de falhas de sistemas complexos, eles mapearam padrões de mau funcionamento da IA e criaram descrições que lembram diagnósticos clínicos.
- Advogado flagrado usando citações falsas geradas por IA é punido na Austrália
- Teste de segurança viu ChatGPT disposto a instruir sobre bombas, armas e crimes
Os exemplos desses “diagnósticos” da IA incluem “transtorno obsessivo computacional” (tradução livre de obsessive-computational disorder), quando o sistema repete padrões de forma excessiva, e “alucinações sintéticas” (synthetic confabulation), que são respostas plausíveis, mas falsas, geradas por algoritmos.
Outros cenários são ainda mais alarmantes, como o chamado “übermenschal ascendancy”, em que a IA ultrapassaria seus limites originais, criando novos valores e descartando restrições humanas.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
Terapia para inteligências artificiais?
Além de nomear os riscos, o estudo propõe estratégias para lidar com eles. Os pesquisadores sugerem algo próximo a uma “terapia robopsicológica”, inspirada em métodos usados em humanos, como a terapia cognitivo-comportamental.
A ideia é que sistemas de IA sejam estimulados a refletir sobre seus próprios processos, aceitem correções e mantenham consistência em seus valores.
Essa abordagem, segundo os autores, pode levar a um estado de “sanidade artificial”, no qual a IA se torna confiável, transparente e alinhada de forma duradoura com objetivos humanos.
Relevância para o futuro da IA
O trabalho sobre a IA, que ganhou o nome de Psychopathia Machinalis, se concentra tanto em rotular erros já conhecidos quanto fornecer um instrumento preventivo. Ao considerar os transtornos psiquiátricos, os cientistas acreditam ser possível antecipar falhas inéditas em sistemas cada vez mais complexos.
Leia também:
- Inteligência Artificial no trabalho atinge profissionais jovens e vagas caem 13%
- AI2027 | O que diz o artigo que prevê a IA destruindo a humanidade em até 2 anos
VÍDEO | Por que tudo agora tem Inteligência Artificial gratuita?
Leia a matéria no Canaltech.
