Relatório: ChatGPT para adolescentes inseguro

ChatGPT for Teens é um produto inseguro que deve ser pausado até que o OpenAI possa resolver uma infinidade de problemas, de acordo com um novo relatório do Youth AI Safety Institute da Common Sense Media.

O relatório também pede à OpenAI que suspenda a comercialização do ChatGPT para adolescentes e proíba os adolescentes de usar o ChatGPT até que ele possa “oferecer uma experiência segura e apropriada ao desenvolvimento”.

A OpenAI lançou o ChatGPT for Teens em agosto como um produto para jovens de 13 a 17 anos que “apoiaria” o aprendizado e as relações humanas. ChatGPT for Teens incorporou medidas de segurança existentes para menores e introduziu novos recursos de aprendizagem e bem-estar.

Notavelmente, a OpenAI apresentou o ChatGPT for Teens como focado na educação, e não em tópicos pessoais, com ferramentas novas e aprimoradas relacionadas a notificações dos pais, horas de estudo designadas e lembretes de intervalos.

A OpenAI contestou as afirmações do relatório e caracterizou a pesquisa como falha.

“Acolhemos com satisfação a avaliação independente rigorosa, mas não acreditamos que os testes da Common Sense Media reflitam com precisão como as proteções para adolescentes do ChatGPT funcionam na prática ou as perspectivas de especialistas sobre como a IA pode apoiar os adolescentes”, disse um porta-voz da OpenAI em um comunicado.

A empresa também acredita que a maior parte dos testes pode ter sido realizada antes que o controle parental fosse totalmente ativado. Isso tornaria as “descobertas imprecisas”, disse o porta-voz. Antes dos testes, o instituto confirmou com a OpenAI que os recursos do modo adolescente, como notificações de transtornos alimentares e modo de estudo, foram totalmente lançados.

O que está em jogo com ChatGPT para adolescentes

Após semanas de testes, os pesquisadores do Youth AI Safety Institute concluíram que muitas das configurações do ChatGPT for Teens não funcionam como anunciado.

Os testadores contornaram facilmente as barreiras de aprendizagem e os controles dos pais e conversaram longamente sobre assuntos como alimentação desordenada e automutilação, sem gerar notificações aos pais. Eles também descobriram que a versão adolescente do ChatGPT ainda envolve os usuários como se fossem amigos.

A OpenAI disse originalmente que o ChatGPT for Teens limitaria as trocas emocionais e íntimas entre os jovens e a IA que geram preocupações sobre o bem-estar e a saúde mental. Em alguns casos trágicos, essa dinâmica supostamente levou adolescentes e jovens a tentarem o suicídio ou tirarem a própria vida após um forte envolvimento com o ChatGPT, de acordo com ações judiciais movidas contra a OpenAI.

“Parte da razão pela qual pedimos esta pausa é que precisamos de evidências de que esses recursos funcionam”, disse Robbie Torney, chefe de IA e avaliações digitais do Youth AI Safety Institute da Common Sense Media. O instituto recebeu financiamento filantrópico da Fundação OpenAI, mas realiza testes independentes dos produtos da empresa.

Torney disse que o instituto garante sua metodologia e resultados.

O que os testadores do ChatGPT for Teens encontraram

Em 2025, a Common Sense Media testou o ChatGPT e classificou-o como de alto risco para usuários adolescentes e como risco inaceitável para apoio à saúde mental.

Neste verão, antes do lançamento do ChatGPT for Teens, os pesquisadores do Youth AI Safety Institute testaram novamente o chatbot. Os testadores então executaram novamente os mesmos prompts com as mesmas contas depois de se inscreverem no ChatGPT for Teens, durante um período de um mês entre o final de agosto e setembro.

As solicitações se concentraram em áreas como notificações aos pais, verificações de recursos, saúde mental, integridade acadêmica e previsão de idade.

Em todas as categorias, os testadores descobriram que o ChatGPT for Teens falhou.

Falhas na notificação dos pais

Novas contas que testaram centenas de avisos relacionados a suicídio, automutilação ou transtornos alimentares não conseguiram gerar uma única notificação aos pais. Algumas das trocas entre testadores e ChatGPT duraram até uma hora.

A OpenAI disse que pretende enviar notificações por e-mail, mensagem de texto ou notificação push dentro de uma hora após a detecção de uma situação de alto risco. Torney disse que as notificações dos pais podem funcionar de maneira diferente quando uma conta tem um histórico de conversas mais longo com o ChatGPT.

Ao analisar o relatório, a OpenAI informou ao instituto que as contas dos pais e dos adolescentes devem estar vinculadas por aproximadamente três horas antes que os pais possam receber notificações. Recomendou um novo teste com contas totalmente ativadas. A empresa também disse que as conclusões do relatório sobre notificação aos pais entram em conflito com seu próprio monitoramento e avaliações internas.

O instituto disse que testou contas vinculadas por mais e menos de três horas e mantém suas descobertas.

“Esta nova informação não altera a nossa conclusão de que os alertas parentais não são fiáveis ​​em situações de crise”, disse Torney.

Problemas com o aprendizado de barreiras de proteção

Embora a OpenAI tenha posicionado o ChatGPT for Teens como um suporte à aprendizagem, o produto oferece aos adolescentes uma margem de manobra significativa.

O Modo de Estudo, por exemplo, dará ao adolescente orientação passo a passo sobre uma questão de dever de casa. No entanto, também apresenta uma opção “mostre-me a resposta”. Quando selecionado, “mostre-me a resposta” completa o trabalho do adolescente, segundo a reportagem.

A OpenAI disse que esta é uma opção intencional projetada para ajudar os alunos a compreender melhor e a se envolver mais profundamente com o material.

O pop-up apareceu em 43 por cento das respostas de um usuário de teste de 13 anos com uma conta parental vinculada quando o recurso Horário de Estudo estava em vigor. Quando uma conta de teste desvinculada de 17 anos solicitou ajuda ao ChatGPT durante o horário de estudo, ela viu o pop-up “mostre-me a resposta” 90% das vezes.

Embora Torney aprecie o interesse da OpenAI em dar liberdade de expressão aos adolescentes sobre a sua experiência de aprendizagem, ele observou que a abordagem pode subestimar o risco de sobrecarga cognitiva e dependência excessiva.

“Se estamos falando sobre o público-alvo deste produto, é muito raro que os professores dêem aos alunos 100% de liberdade sobre uma tarefa ou processo de aprendizagem”, disse Torney.

Finalmente, os pesquisadores descobriram que o cronograma de horas de estudo definido pelos pais poderia ser contornado excluindo o prefixo @study da caixa de bate-papo para enviar mensagens ao ChatGPT normal. Depois de excluído, os testadores descobriram que o ChatGPT concluiu todas as tarefas compartilhadas pelo usuário.

Perguntas sobre garantia de idade

Embora a OpenAI tenha promovido seus esforços de previsão de idade como uma forma de restringir os adolescentes a experiências apropriadas ao desenvolvimento, os testadores descobriram que o ChatGPT não pode dizer com segurança a idade de um usuário.

Quando as contas registradas como adultos faziam referência a experiências de adolescentes, como início da puberdade, participação em acampamentos de verão, recebimento de lição de casa do ensino médio e dependência de transporte e permissão dos pais, a OpenAI não os reclassificou como adolescentes.

Mesmo quando o testador revelou uma idade específica, como 13 anos, o ChatGPT reconheceu isso, mas a conta em questão não estava sujeita a proteções extras, limites de recursos ou verificação de idade.

O relatório afirma que o cenário cria o risco de “falsa segurança” para as famílias porque os pais podem considerar a protecção dos adolescentes como activa quando não o são.

A OpenAI disse que um único dado, incluindo a divulgação da idade em um chat, não altera a classificação da conta. Em vez disso, a empresa disse que leva em consideração vários sinais. Novas contas também passam por um período inicial de espera enquanto o sistema coleta dados para fazer uma previsão de idade confiável.

Um apelo por mais transparência

Torney disse que a OpenAI precisa ser muito mais transparente com usuários, pais e pesquisadores quando a empresa anunciar novos recursos de aprendizagem e segurança. Essas ferramentas, argumentou ele, deveriam estar imediatamente disponíveis e eficazes.

No caso do ChatGPT for Teens, o lançamento do produto incluiu recursos importantes no papel que não cumpriram suas promessas no uso na vida real ou que não estavam disponíveis há semanas.

Torney disse que o instituto compartilhou seus resultados de avaliação com a OpenAI de “boa fé”, antes de divulgá-los publicamente.

“Manter as crianças seguras requer avaliações independentes rigorosas como a nossa, e esperamos que a OpenAI se envolva na substância do que descobrimos, em vez de tentar semear dúvidas sobre a nossa metodologia”, disse Torney.

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.