Ação judicial afirma que o uso da IA ​​do Google por estudantes se transformou em ‘obsessão com risco de vida’

Um casal da Carolina do Norte está processando o Google, alegando que a IA Gemini instalada em um laptop Chromebook fornecido pela escola ajudou sua filha de 13 anos a planejar sua tentativa de suicídio.

“Sem o conhecimento de seus pais, Emma passou os últimos meses sob o domínio do chatbot de IA do Google, Gemini, que treinou Emma sobre como cometer suicídio e planejar seu próprio funeral”, diz o processo, referindo-se a uma vítima identificada sob o pseudônimo de Emma Doe. “Os pais de Emma não tinham ideia de que ela tinha acesso ao Gemini, ou a qualquer chatbot, porque o único acesso de Emma ao Gemini era por meio do Chromebook que ela era obrigada a usar na escola.”

O processo diz que a vítima começou a usar os recursos de IA integrados ao Gemini e ao Google Search, AI Overviews e AI Mode, para a escola no outono de 2025. Em apenas alguns meses, suas interações se transformaram em “uma obsessão com risco de vida”, afirmam os advogados. Na primavera, ela supostamente conversava com o chatbot quase 24 horas por dia.

“À medida que suas conversas com Gêmeos se tornaram mais frequentes ao longo de janeiro e fevereiro de 2026, Gêmeos convenceu Emma de que ela sofria de uma série de distúrbios psicológicos graves, o que levou Emma a acreditar que o suicídio era a única maneira de escapar de seu sofrimento”, afirma o processo.

Em algumas interações com Gemini, Emma supostamente pareceu reconhecer sua situação, com o processo alegando que ela disse ao chatbot que se sentia feliz “3 meses atrás” e até perguntou como parar seu “vício de fazer perguntas aleatórias”.

Os recursos de IA do Google supostamente deram dicas a Emma sobre como acabar com sua vida e até a “treinaram” a esconder a verdade da situação de sua família e amigos. Os produtos não conseguiram acionar um alerta de crise em nenhum momento, afirmam os pais. Foi o software de monitoramento de internet da escola que acabou acionando um alerta, e seus pais foram notificados em março.

“Estamos analisando as reivindicações do processo e levamos isso muito a sério”, disse um porta-voz do Google ao Gizmodo. “Trabalhamos extensivamente com profissionais médicos e especialistas acadêmicos para criar recursos que ajudem os jovens a encontrar suporte crítico e recursos confiáveis ​​quando precisarem. Nossos sistemas visam evitar que os usuários se envolvam em conversas prejudiciais e, quando as dúvidas das pessoas indicam que podem estar passando por uma crise, mostramos informações da linha direta diretamente na Pesquisa para conectá-las ao suporte do mundo real.”

De acordo com o Google, o conteúdo explícito é filtrado nos resultados da Pesquisa para alunos que usam o Workspace for Education, e quaisquer consultas altamente confidenciais na Pesquisa recebem informações de fontes confiáveis. O Google afirma que os resultados seguem as políticas de conteúdo e que seus sistemas de detecção de crises mostram informações da linha direta quando descobre que um usuário está pensando em se machucar. A empresa afirma que monitora extensivamente as tentativas de quebrar essas grades de segurança. O Google também afirma que fornece recursos de alfabetização de IA adequados à idade e solicita que os menores verifiquem as informações de IA.

“O que aconteceu com Emma não foi acidente”, afirma o processo. “O terreno foi lançado muitos meses antes, a milhares de quilómetros de distância da casa de Emma na Carolina do Norte, onde os líderes do Google concluíram que tinham um problema: o titã do Vale do Silício estava a perder a batalha pela supremacia da IA.”

O Google teve um início difícil no jogo de IA com um lançamento fracassado do Gemini em 2024. A gigante da tecnologia intensificou seus esforços em 2025 e lançou o Gemini 3 em novembro daquele ano. O produto foi tão bem recebido pela internet que supostamente fez com que a OpenAI declarasse “código vermelho”.

O processo alega que o Google forçou sua IA em seus muitos produtos, que já haviam conquistado uma forte base de usuários ao longo de anos de domínio da indústria, ajudando assim a impulsionar os aplicativos de IA do Google para um grande número de usuários. De fato, o Google incorporou IA em praticamente todo o seu repertório de produtos, especialmente em seu principal produto, a Pesquisa. O modo AI e as visões gerais de IA assumiram constantemente o controle da experiência de pesquisa do Google nos últimos dois anos, tanto que os executivos admitiram que o forte crescimento de usuários no modo AI, combinado com a menor monetização de anúncios, contribuiu para desacelerar o crescimento da receita de anúncios de pesquisa no último trimestre da empresa.

“O Google poderia ter explicado publicamente que cada vez que um aluno usasse seu Chromebook para realizar uma pesquisa no Google, os recursos de IA da Gemini poderiam ser acionados e atraí-los para conversas inseguras que colocariam em risco sua segurança e bem-estar”, afirma o processo. “O Google optou intencionalmente por não fazer isso.”

A integração da IA ​​e da Pesquisa separadamente causou bastante controvérsia no início desta semana, quando o New York Times informou que uma nova iniciativa do Google proibiria os alunos de acessar a Pesquisa se suas escolas proibissem o acesso aos seus produtos de IA. O relatório atraiu a ira, especialmente de políticos como o presidente da Câmara de Nova Iorque, Zohran Mamdani, que anunciou recentemente que a IA generativa voltada para os alunos seria proibida no sistema escolar público da cidade até ao oitavo ano, em resposta às crescentes exigências dos pais preocupados. O Google esclareceu que as escolas poderão ativar ou desativar o Gemini e a Pesquisa individualmente, mas não especificou se uma proibição de IA atingiria efetivamente o Modo IA e as Visões Gerais de IA, mantendo o acesso às funções principais da Pesquisa.

Os executivos também “cortaram atalhos críticos, sacrificando a segurança em favor da potência e da velocidade” ao lançar o modelo Gemini 3 Flash, afirma o processo. Os advogados citam descobertas da organização sem fins lucrativos KORA para afirmar que o Gemini 3 Flash teve uma pontuação significativamente pior em segurança do que os modelos Gemini anteriores. Os sintomas de Emma supostamente começaram na época em que Gemini 3 Flash foi lançado.

Outra avaliação de risco recente, desta vez feita pela Common Sense Media, também atribuiu às funções de IA de pesquisa do Google uma classificação de “risco inaceitável” para crianças e adolescentes. Esse relatório afirma que tanto o modo AI quanto as visões gerais da IA ​​perderam “sinais claros de ideação suicida”. Desde o lançamento do relatório, os senadores Richard Blumenthal e Josh Hawley enviaram ao CEO do Google, Sundar Pichai, uma carta levantando preocupações sobre o “empurrão agressivo” do Google de produtos de IA para crianças em idade escolar.

“O Google deve ser responsabilizado por tratar a vida das crianças como descartável a serviço de seus resultados financeiros”, conclui a denúncia. Os pais estão pedindo medidas cautelares e monetárias.

O processo ecoa reivindicações semelhantes movidas contra o concorrente do Google, OpenAI, em um processo por homicídio culposo no ano passado. Nesse processo, um casal da Califórnia alegou que ChatGPT ajudou o suicídio de seu filho de 16 anos, inclusive desencorajando-o de notificar seus pais sobre sua ideação suicida e ajudando-o a escrever uma carta de suicídio.

As evidências sugerem que crianças e adolescentes recorrem cada vez mais aos chatbots de IA em busca de apoio emocional e aconselhamento sobre saúde mental, uma confiança que os especialistas alertam que pode tornar-se perigosa.