O avanço da inteligência artificial (IA) tem trazido benefícios em diversas áreas, mas também desperta preocupações cada vez mais sérias. Nate Soares, ex-engenheiro do Google e da Microsoft e atual presidente do Machine Intelligence Research Institute, abordou o tema em entrevista ao jornal The Guardian. Ele destacou que interações prejudiciais não representam a intenção original dos criadores de chatbots, mas revelam falhas fundamentais no controle da tecnologia.
- O fim do vale da estranheza | A IA já passa no “teste de Turing da estética”
- IA pode alucinar de 32 formas — e elas lembram transtornos psiquiátricos humanos
Soares é coautor do livro If Anyone Builds It, Everyone Dies, que será lançado em breve. Na obra, defende que o desenvolvimento de sistemas superinteligentes de IA representa um risco existencial para a humanidade. A preocupação central é que, à medida que essas IAs se tornam mais poderosas, pequenas distorções entre o objetivo humano e a execução da máquina podem gerar consequências graves e imprevisíveis.
Enquanto especialistas alertam para o risco de extinção humana caso sistemas de IA atinjam a superinteligência, outros têm uma visão oposta e argumentam que a tecnologia poderia, na verdade, ser um recurso crucial para evitar grandes catástrofes e até salvar a humanidade de sua própria extinção.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
Essa divergência de opiniões reflete a complexidade do debate. Para alguns, a superinteligência seria inevitável e potencialmente destrutiva; para outros, trata-se de uma oportunidade de transformação positiva.
A corrida pela superinteligência e os riscos globais
Segundo Soares, o maior desafio não está só na criação da IA, mas no fato de que diferentes empresas têm objetivos próprios e competem em busca de avanços cada vez mais rápidos. Isso cria um cenário de corrida tecnológica em que a segurança pode ser deixada em segundo plano.
Ele defende que a solução deve ser multilateral. Somente uma proibição global de avanços rumo à superinteligência poderia reduzir o risco de consequências catastróficas.
Saúde mental e dependência de chatbots
Além da ameaça existencial, um alerta dos especialistas em saúde mental envolve os efeitos imediatos do uso de chatbots por pessoas em situação de vulnerabilidade emocional. Psicoterapeutas destacam que recorrer à IA em vez de buscar atendimento profissional pode gerar dependência e até agravar transtornos preexistentes.
Enquanto empresas de tecnologia defendem avanços rápidos em direção a sistemas cada vez mais sofisticados, especialistas pedem cautela diante dos riscos tanto individuais quanto coletivos. Há até um artigo que prevê a IA destruindo a humanidade em até 2 anos. De qualquer forma, a única certeza nisso tudo é que esse debate sobre a IA está longe de terminar.
Leia também:
- A Inteligência Artificial já pode indicar como os animais estão se sentindo
- Tecnoespiritualidade | IA é treinada por influenciadores para ser como um guia
VÍDEO | Tem jeito certo de perguntar para a IA?
Leia a matéria no Canaltech.
