Um artigo publicado no dia 5 de agosto no periódico americano Annals of Internal Medicine relatou um caso em que um homem de 60 anos desenvolveu uma condição rara conhecida como bromismo. Isso se deu após ele consultar o ChatGPT sobre a eliminação do sal de cozinha de sua dieta.
- MIT diz que escrever texto com ChatGPT faz mal ao cérebro: “desempenho inferior”
- Psicose do ChatGPT | Crescem relatos de pessoas em confusão mental por usar bot
- É a Matrix | ChatGPT leva usuário a crise existencial e delírios de que é o Neo
O quadro médico se iniciou depois que o paciente leu informações sobre os efeitos negativos do cloreto de sódio — o sal de cozinha — e, diante disso, recorreu à ferramenta de inteligência artificial para saber como poderia remover o produto da alimentação.
Ele começou, então, a ingerir brometo de sódio por três meses, até desenvolver o bromismo. Essa intoxicação por brometo pode causar alterações no sistema nervoso central — como confusão mental, alucinações e letargia — além de alterações cutâneas, problemas gastrointestinais e de coordenação motora.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
O paciente se apresentou em um hospital alegando que um vizinho poderia estar o envenenando, mas os médicos identificaram um quadro de paranoia. Durante a internação, ele tentou escapar do hospital e posteriormente recebeu tratamento contra a psicose.
Entre os sintomas relacionados ao bromismo estavam acne facial, sede excessiva e insônia.
Orientação da ferramenta de IA
Os cientistas da Universidade de Washington que conduziram o estudo não tiveram acesso às conversas do paciente com o ChatGPT, portanto não foi possível determinar com precisão qual orientação ele recebeu.
No entanto, ao perguntarem ao chatbot o que poderia substituir o sal de cozinha, a resposta também incluiu brometo de sódio. A ferramenta não questionou o motivo da pergunta nem emitiu qualquer alerta de saúde específico.
“Apesar de seu potencial para servir como ponte entre cientistas e o público leigo, a IA também carrega o risco de transmitir informações descontextualizadas, sendo altamente improvável que um especialista médico tivesse recomendado brometo de sódio a um paciente que buscava um substituto seguro para o cloreto de sódio”, escreveram os pesquisadores.
Eles ainda destacaram que a inteligência artificial pode contribuir para o desenvolvimento de doenças evitáveis ao gerar informações científicas imprecisas.
Atualização do ChatGPT
Com base na cronologia das pesquisas feitas pelo paciente, os cientistas estimam que ele tenha consultado o ChatGPT 3.5 ou 4.0 — a versão testada pelos pesquisadores foi a 3.5.
Na última atualização da ferramenta, lançada em 7 de agosto, a OpenAI destacou que o GPT-5 trouxe otimizações voltadas para interações relacionadas à saúde, incluindo maior proatividade em sinalizar possíveis riscos à saúde dos usuários.
Os especialistas da universidade norte-americana destacaram que, diante do aumento do uso de ferramentas de IA, os profissionais da saúde precisarão se atentar a onde seus pacientes buscam informações sobre saúde.
Leia também:
- Take a break | Se o ChatGPT sugerir uma pausa, pare porque é para o seu bem
- Não há confidencialidade quando se usa ChatGPT como terapeuta, diz Sam Altman
- Chatbots de IA são facilmente enganados e dão respostas perigosas, diz estudo
VÍDEO | TODO MUNDO ODEIA A INTELIGÊNCIA ARTIFICIAL
Leia a matéria no Canaltech.
