Na última segunda-feira (6), a OpenAI anunciou que permitirá o desenvolvimento de aplicativos +18 para o ChatGPT, assim que implementar um sistema de verificação de idade. A medida marca uma mudança significativa na política da empresa em relação a conteúdo adulto, que até agora era rigidamente restrito.
- Por que você não deveria enviar as fotos dos seus filhos para aplicativos de IA
- ChatGPT terá controle parental e alerta de momentos de ‘grande angústia’
Em agosto, a OpenAI revisou seu “Model Spec”, documento que orienta o comportamento de seus modelos de linguagem, relaxando algumas restrições sobre conteúdo sexual. A nova versão proíbe apenas material envolvendo menores, permitindo que conteúdos adultos sejam produzidos sob certas condições.
Apesar da atualização, usuários relataram que o modelo ainda mantém barreiras para gerar conteúdo explícito, usando técnicas. A nova abordagem promete alinhar a capacidade do ChatGPT com a política declarada da empresa.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
A implementação do controle de idade
Essa liberação de aplicativos para maiores só deve acontecer depois que o sistema de verificação de idade estiver totalmente implementado. Esse mecanismo visa garantir que apenas adultos tenham acesso a conteúdos sensíveis, prevenindo riscos legais e éticos associados ao uso do ChatGPT por menores.
O modelo de OpenAI segue um caminho semelhante ao de outras plataformas que lidam com conteúdo adulto, equilibrando liberdade e segurança do usuário. No entanto, a moderação pode ser um desafio complexo, especialmente diante do potencial de exploração e criação de material inapropriado.
Desafios e preocupações
A experiência de outras IA demonstra os riscos de liberar conteúdo adulto sem filtros. Problemas como deepfakes, exploração sexual e uso indevido de imagens de terceiros são preocupações reais. Além disso, a OpenAI já enfrenta críticas por questões de segurança, como respostas excessivamente complacentes que podem afetar a saúde mental de usuários vulneráveis.
Apesar dos riscos, a expectativa é que, com o sistema de verificação de idade, o ChatGPT possa atender a um público adulto de forma segura e regulamentada com a implementação desses aplicativos +18.
Leia também:
- Gambiarra simples em vídeo adulto burla moderação de conta de crianças no TikTok
- Número de crianças usando ChatGPT e Gemini só cresce — e preocupa especialistas
VÍDEO | Cuidado com o que você pede para o ChatGPT
Leia a matéria no Canaltech.
