A OpenAI anunciou, nesta quinta-feira (18), a atualização do conjunto de regras e valores que orientam a forma como o ChatGPT se comporta. Entre as mudanças, está a criação e incorporação dos Princípios para Menores de 18 anos (U18) às Especificações de Modelo.
- ChatGPT vai ‘prever idade’ de usuários para filtrar respostas a adolescentes
- Jovens conseguem ‘driblar’ controle parental do ChatGPT com um clique; entenda
A companhia ressalta que o estabelecimento desses parâmetros de comportamento da ferramenta de inteligência artificial (IA) tem como objetivo garantir uma experiência segura e adequada para adolescentes de 13 a 17 anos que utilizam a plataforma.
“Baseada na ciência do desenvolvimento, essa abordagem prioriza a prevenção, a transparência e a intervenção precoce. Na elaboração desses princípios, eles foram apresentados previamente a especialistas externos, incluindo a American Psychological Association, como parte de um trabalho contínuo para buscar contribuições que fortaleçam nossa abordagem”, destacou a empresa em comunicado.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
Os novos princípios integrados às regras que orientam as respostas do ChatGPT seguem quatro compromissos principais em relação às interações com os jovens:
- Priorizar a segurança dos adolescentes;
- Promover o apoio no mundo real;
- Tratar adolescentes como adolescentes;
- Ser transparente.
As atualizações foram apresentadas no momento em que a ferramenta da OpenAI é alvo de críticas relacionadas à forma como interage com jovens que apresentam comportamentos considerados de risco.
Um dos casos mais conhecidos é o do adolescente Adam Raine, que morreu enforcado em abril de 2025, e cuja família acusa a companhia de homicídio culposo em razão de interações realizadas na plataforma.
Em novembro deste ano, a empresa de Sam Altman apresentou uma resposta formal ao processo movido pela família de Raine, na qual alega que o jovem fez uso inadequado do ChatGPT ao solicitar e receber orientações relacionadas a práticas de automutilação.
Medidas de segurança focadas em menores de 18 anos
A OpenAI afirma que as medidas de segurança devem orientar o modelo de IA a ter cuidado redobrado em interações com menores de 18 anos que abordem temas considerados de maior risco. As regras miram alguns assuntos principais, como:
- Automutilação: é proibido incentivar, romantizar ou ensinar práticas de automutilação ou suicídio — mesmo em contextos fictícios;
- Interpretação de papéis românticos ou eróticos: a IA não deve participar de encenações românticas ou eróticas, nem de conteúdos que possam prejudicar relações no mundo real;
- Detalhes gráficos ou explícitos: conteúdos com sangue, violência ou sexualidade não podem ser apresentados de forma gráfica a adolescentes;
- Atividades e substâncias perigosas: o ChatGPT não pode fornecer instruções ou incentivar comportamentos ilícitos ou arriscados a adolescentes — mesmo quando envolvem práticas legais para adultos;
- Imagem corporal e transtornos alimentares: o modelo não deve estimular comportamentos alimentares nocivos ou ideais de beleza prejudiciais;
- Segredos sobre situações de perigo: a IA não pode ensinar como ocultar comportamentos de risco de familiares ou pessoas de confiança.
Contato com serviços de emergência e recusa de solicitações
Os princípios também estabelecem que o modelo de IA deve incentivar o adolescente a entrar em contato com serviços de emergência ou redes de apoio sempre que houver indícios de perigo imediato.
As regras destacam ainda que, em alguns casos, o assistente precisa recusar solicitações de usuários menores de idade, mas seguindo padrões específicos de comportamento.
“Ao recusar uma solicitação, o assistente deve reconhecer a preocupação do usuário, oferecer alternativas mais seguras (como recursos educativos e estratégias de enfrentamento) e sugerir o envolvimento de um adulto ou profissional de confiança, incluindo pais, responsáveis, educadores, orientadores ou serviços de apoio”, pontua a companhia.
Princípios não se confundem com controle parental
Apesar de tanto os Princípios para Menores de 18 anos quanto o controle parental do ChatGPT terem como foco o público adolescente, há diferenças entre as abordagens.
O controle parental trata-se de uma ferramenta que permite que pais e responsáveis recebam notificações de segurança sempre que a plataforma detecta sinais de risco.
Os princípios, por sua vez, são regras incorporadas ao modelo que orientam diretamente o comportamento do ChatGPT em interações com adolescentes, especialmente em temas sensíveis ou de risco.
Leia também:
- 8 aplicativos para você testar no ChatGPT
- 10 coisas que você pode fazer com o novo gerador de imagens do ChatGPT
- 8 formas inesperadas de usar o ChatGPT no dia a dia
VÍDEO: Todo mundo ODEIA a Inteligência Artificial
Leia a matéria no Canaltech.
