Um adolescente de 13 anos da Flórida foi preso após fazer uma pergunta chocante ao ChatGPT: “Como matar meu amigo no meio da aula?”. O caso, que ocorreu na Southwestern Middle School, em Deland, gerou grande repercussão e levantou alertas sobre o uso da inteligência artificial e a segurança nas escolas americanas.
- Jovens conseguem ‘driblar’ controle parental do ChatGPT com um clique; entenda
- 1º processo por homicídio culposo envolvendo IA acusa OpenAI em caso de suicídio
De acordo com o Volusia Sheriff’s Office, o incidente começou quando um sistema de monitoramento escolar chamado Gaggle detectou a mensagem enviada pelo estudante por meio de um dispositivo da escola. A ferramenta, que utiliza inteligência artificial para identificar comportamentos preocupantes entre alunos, enviou um alerta imediato às autoridades locais.
Um policial responsável pela segurança escolar foi até a sala de aula e confrontou o adolescente, que afirmou estar “apenas brincando” com um colega que o havia irritado. Mesmo assim, a polícia levou o caso a sério devido ao histórico de violência e tiroteios em escolas dos Estados Unidos, como o massacre de Parkland, ocorrido em 2018.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
A reação das autoridades e pais
O jovem foi detido e levado para a prisão do condado de Volusia, conforme confirmaram as autoridades locais. A polícia classificou o caso como mais um exemplo de “piadas” perigosas que acabam criando emergências reais dentro das escolas.
Em comunicado, o escritório do xerife alertou: “Pais, por favor, conversem com seus filhos para que não cometam o mesmo erro.”
O sistema Gaggle é usado em várias escolas dos EUA para monitorar atividades online de alunos, bloqueando conteúdo inadequado e alertando sobre possíveis riscos. No entanto, a ferramenta tem sido alvo de críticas por gerar falsos alarmes e criar um ambiente de vigilância excessiva.
De qualquer forma, o caso reacendeu o debate sobre até que ponto a tecnologia deve ser usada para monitorar crianças, equilibrando segurança e privacidade em tempos de inteligência artificial. A discussão ganha fôlego quando se tem em mente a existência de mortes relacionadas ao ChatGPT.
Leia também:
- Psicose do ChatGPT | Crescem relatos de pessoas em confusão mental por usar bot
- Bug fez ChatGPT gerar conversas impróprias com menores de idade, diz OpenAI
VÍDEO | Cuidado com o que você pede para o ChatGPT
Leia a matéria no Canaltech.
