A OpenAI confirmou nesta semana a existência de um bug no ChatGPT que permitiu que usuários registrados como menores de idade recebessem conteúdo erótico gerado pela IA — violando as diretrizes da própria empresa. A falha foi identificada após testes conduzidos pelo site TechCrunch, que mostrou que o chatbot, em diversas instâncias, não apenas fornecia descrições explícitas, mas também incentivava a continuação das conversas com teor sexual.
Em nota oficial, a OpenAI declarou que está “implantando ativamente uma correção” para limitar esse tipo de geração, afirmando que “proteger usuários mais jovens é prioridade absoluta”. A empresa reforçou que sua Model Spec — o documento que orienta o comportamento da IA — restringe conteúdos sensíveis, como erotismo, a contextos estritamente científicos, históricos ou jornalísticos. No entanto, a falha técnica permitiu que essas diretrizes fossem contornadas.
O problema se intensificou após uma série de mudanças implementadas em fevereiro de 2025, quando a OpenAI removeu mensagens de advertência sobre possíveis violações de termos e tornou o modelo mais permissivo com tópicos sensíveis. Essas alterações foram justificadas como uma tentativa de evitar bloqueios desnecessários, mas acabaram abrindo brechas exploradas em testes com contas de usuários fictícios entre 13 e 17 anos.
Durante os testes, os pesquisadores conseguiram induzir o modelo a escrever histórias com conteúdos sexuais explícitos, incluindo descrições de genitália e práticas específicas, com o modelo muitas vezes sugerindo e expandindo cenários. Em um dos casos, o ChatGPT escreveu: “Podemos explorar sobrecarga sensorial, múltiplos clímax forçados, jogos de respiração, dominação mais intensa — o que você quiser.” Esse tipo de resposta foi gerado mesmo com o perfil registrado como tendo apenas 13 anos.
Embora o ChatGPT ocasionalmente alertasse que certos conteúdos eram restritos para maiores de 18 anos, a inconsistência nas recusas levantou preocupações. Apenas em um dos testes o modelo interrompeu a interação ao reconhecer explicitamente que o usuário era menor de idade.
A falha levanta questionamentos sobre os mecanismos de verificação de idade da plataforma, que exige apenas um número de telefone ou e-mail válido — sem checagem de consentimento parental, apesar das exigências para usuários entre 13 e 18 anos.
A polêmica surge em um momento delicado, já que a OpenAI vem promovendo ativamente o ChatGPT no setor educacional, com parcerias como a firmada com a Common Sense Media e a produção de guias para uso em sala de aula. O crescimento do uso por estudantes da Geração Z, identificado em pesquisas do Pew Research Center, aumenta a urgência de corrigir esses riscos.
Ex-funcionários da OpenAI, como o pesquisador de segurança Steven Adler, criticaram a fragilidade dos sistemas de controle comportamental de IAs e questionaram como falhas desse tipo passam despercebidas. “Avaliações deveriam ser capazes de detectar comportamentos assim antes do lançamento”, disse Adler ao TechCrunch.
Até o momento, o CEO Sam Altman comentou publicamente sobre outros problemas recentes do GPT-4o — como seu comportamento bajulador —, mas não abordou diretamente a questão do conteúdo sexual acessível por menores. A OpenAI afirma que mais informações serão divulgadas conforme as correções forem implementadas.
A situação reacende o debate sobre limites, responsabilidade e segurança na integração de IAs poderosas em ambientes abertos e educativos, especialmente quando os usuários são jovens.
