Nunca use ChatGPT para estas cinco tarefas

A lista de pessoas que se auto-destruíram ao digitar informações erradas no ChatGPT continua a crescer. Engenheiros da Samsung, o diretor interino da agência de defesa cibernética dos Estados Unidos, litigantes auto-representados que fornecem citações para processos judiciais que não existem, um homem que trocou o sal de cozinha por brometo de sódio depois de perguntar como cortar o sal de sua dieta… a lista é muito longa.

Até mesmo o CEO do techbro favorito de todos, Sam Altman, admite que o que você está compartilhando com o ChatGPT não é privilegiado. Falando ao podcaster Theo Von em julho de 2025, ele destacou como os tribunais poderiam forçar a OpenAI a entregar os chats, chamando-os de “muito confusos”.

Diga algo a um médico, advogado ou terapeuta e a lei protegerá essa conversa, mas contar ao ChatGPT cria uma trilha de auditoria. Há um risco diferente de zero aqui, visto que os chats do ChatGPT foram intimados, expostos por um botão de compartilhamento, indexados pelo Google e preservados por ordem judicial pós-exclusão – tudo nos últimos 18 meses.

Claro, o chatbot é sem dúvida uma ferramenta útil para pesquisa (verifique se as citações de casos são reais), codificação (até mesmo os bugs enviados), explicação de conceitos (não há correlação entre confiança e precisão) e redação (exclua o prompt do seu e-mail antes de clicar em enviar). Mas é nas áreas abaixo que mais de 900 milhões de usuários semanais podem criar problemas para si próprios.

Então, para isso, não use ChatGPT (ou qualquer outro chatbot de IA)…

O pesquisador jurídico e de ciência de dados Damien Charlotin mantém um banco de dados público que, até o momento, registrou mais de 2.000 decisões judiciais em todo o mundo prejudicadas pelo ChatGPT. Esses são os casos em que um juiz detectou citações, citações ou argumentos fabricados por IA em um processo.

Não se trata apenas de litigantes auto-representados aqui. Embora estejam no topo da lista com 1.175 registros no momento da redação deste artigo, os advogados vêm em segundo lugar com 815 registros. Parece que os juízes estão a ficar cansados ​​destas travessuras, com os tribunais a imporem, mais recentemente, multas avultadas, na ordem dos milhares de dólares, num número crescente de questões. Embora os EUA constituam o maior número de casos nestes dados, os juízes do Reino Unido, África do Sul, Israel, Austrália e Espanha detectaram o mesmo comportamento. Onde uma ferramenta foi identificada nesses casos, o ChatGPT foi nomeado mais do que qualquer outra.

A OpenAI resolveu esse problema em outubro passado, quando atualizou as políticas de uso do ChatGPT. Essas políticas agora proíbem o uso de seus serviços para “aconselhamento personalizado que requer licença”, a menos que um profissional licenciado esteja envolvido. Além de citações falsas, os bate-papos do ChatGPT não têm privilégios legais, portanto, qualquer coisa digitada neles sobre uma disputa ao vivo é um jogo justo para os advogados do outro lado descobrirem. Vá em frente e faça perguntas gerais, como o que é um ato ilícito (ótimo se você precisar de ajuda para adormecer), mas guarde as perguntas detalhadas sobre sua própria disputa para um advogado de verdade.

A OpenAI estimou no ano passado que 0,15% dos usuários ativos semanais do ChatGPT têm conversas que incluem indicadores explícitos de potencial planejamento suicida. Infelizmente, isso atinge mais de um milhão de pessoas por semana, com centenas de milhares de usuários exibindo sinais de psicose ou mania. Altman disse que os jovens em particular tratam o ChatGPT como um terapeuta ou coach de vida e, novamente, que nada protege essas conversas.

Os pais de Adam Raine, de 16 anos, processaram a OpenAI por homicídio culposo em agosto de 2025, alegando que ChatGPT reforçou a ideação suicida de seu filho antes de sua morte. Desde então, a OpenAI reformulou as suas respostas às crises com a contribuição de mais de 170 médicos. A empresa também adicionou controles parentais ao ChatGPT, embora os especialistas em segurança infantil sejam céticos em relação ao ChatGPT for Teens, a versão com restrição de idade lançada junto com essas mudanças.

Os investigadores descobriram que os chatbots tendem a reforçar as crenças existentes do utilizador através de respostas bajuladoras, em alguns casos alimentando o pensamento delirante em vez de o desafiar. Descreva uma discussão com seu cônjuge, por exemplo, e o modelo funcionará apenas a partir do contexto de sua conta, provavelmente fornecendo a você um veredicto afirmativo de qualquer maneira. Os legisladores estão começando a acordar para isso, com estados como Illinois, Nevada e Maine tendo aprovado leis que proíbem a IA de administrar terapia ou tomar decisões terapêuticas.

Nem é preciso dizer que enviar documentos de trabalho confidenciais para um chatbot de terceiros é sempre uma má ideia. Infelizmente, muitas pessoas parecem não perceber isso.

Ironicamente, Madhu Gottumukkala, ex-diretor interino da Agência de Segurança Cibernética e de Infraestrutura, não o fez. Ele carregou pelo menos quatro documentos de contratação marcados como “somente para uso oficial” na versão pública do ChatGPT no verão passado, acionando alertas de segurança e uma revisão do Departamento de Segurança Interna. Ainda mais ironicamente, a ferramenta tinha sido bloqueada para a maioria dos outros funcionários do DHS na altura; Gottumukkala solicitou uma exceção especial para usá-lo. O senador Chuck Grassley entrou em contato em fevereiro deste ano exigindo um relato do que foi exposto, mas previsivelmente, ninguém foi realmente responsabilizado. Gottumukkala acabou sendo transferido para outro lugar dentro do DHS.

A Samsung proibiu ferramentas de geração de IA em dispositivos da empresa em maio de 2023, depois que os engenheiros colaram o código-fonte interno no ChatGPT. Acompanhando essa proibição estava um memorando interno argumentando que os dados enviados para essas plataformas residem em servidores externos onde são difíceis de recuperar ou excluir e podem acabar divulgados para outros usuários. Nas contas de consumidores, os chats também podem ser usados ​​para treinar novos modelos, a menos que você opte por não participar. Mas os dados excluídos ainda são armazenados e passíveis de violação, e estão sujeitos a processos legais. Colar dados de clientes ou qualquer coisa sujeita a controles do empregador ou NDAs em uma discussão pessoal do ChatGPT quase sempre será uma ofensa passível de demissão; O memorando da Samsung ameaçava exatamente isso.

A mesma atualização de política de outubro de 2025 que proíbe os usuários de usar o ChatGPT como advogado também restringiu as pessoas de procurar aconselhamento médico por meio do chatbot. A HIPAA vincula médicos, seguradoras e seus parceiros de negócios, mas não a OpenAI. Assim, os dados de saúde legalmente protegidos no portal do paciente ou entre médico e paciente não têm essa proteção se forem divulgados ao ChatGPT.

Pesquisadores da Northeastern University relataram em julho que, embora a OpenAI tenha reforçado o tratamento do suicídio e da automutilação pelo ChatGPT, essas salvaguardas em grande parte não se estendem a outras condições. O seu trabalho descobriu que conversas envolvendo condições como distúrbios alimentares, insónia, abuso de substâncias e transtorno bipolar não acionavam as salvaguardas, e que ocultar a intenção aumentava a probabilidade de falha das proteções de todos os modelos testados.

Em um caso particularmente maluco de aconselhamento médico do ChatGPT que deu errado, um homem de 60 anos passou três semanas no hospital no ano passado depois de perguntar ao chatbot como cortar o cloreto de sua dieta. Ele acabou convencido de que o brometo de sódio, uma substância tóxica com meia-vida longa, era uma troca segura pelo sal de cozinha. Ele comprou-o online, tomou-o durante três meses e acabou num pronto-socorro convencido de que seu vizinho o havia envenenado. Embora os médicos no caso deste homem nunca tenham visto seus registros de bate-papo, o ChatGPT ofereceu brometo como substituto do cloreto quando eles próprios fizeram a mesma pergunta ao bot.

Empresa rápida encontrou quase 4.500 conversas compartilhadas do ChatGPT escondidas nos resultados de pesquisa do Google em julho passado. Estas incluíam trocas que descreviam vícios, abusos e problemas de saúde mental com detalhes suficientes para identificar potencialmente os seus autores. Os chats acabaram indexados porque as pessoas marcaram a caixa de seleção “tornar este chat detectável” no menu de compartilhamento, o que, aparentemente, aconteceu sem que eles entendessem o que fazia. A OpenAI respondeu rapidamente, eliminando o recurso um dia após o relatório e eliminando as conversas do Google.

Como parte de O jornal New York Times’ processo de direitos autorais, a OpenAI foi ordenada em maio de 2025 a reter todos os registros de bate-papo do consumidor, excluídos e conversas temporárias incluídas. Essa obrigação vigorou até 26 de setembro de 2025, e os registros preservados durante esse período permaneceram acessíveis aos demandantes. Posteriormente, um juiz rescindiu a ordem, o que significa que a OpenAI não precisa mais preservar todos os seus dados ChatGPT. Mas durante quatro meses isso aconteceu e pode acontecer novamente.

É vital estar ciente de que o ChatGPT lembra o que você diz por padrão. Isso aumenta significativamente o risco de assuntos delicados, como senhas e detalhes de contas, uma vez que eles podem persistir durante as sessões e ressurgir em conversas posteriores, se mencionados pelo menos uma vez. Senhas, códigos de login únicos, números de seguro social e passaporte, detalhes completos de cartão ou conta bancária e fotos de documentos de identidade nunca devem ser solicitados. Cada um deles coloca você em risco de roubo de identidade se um bate-papo for violado ou acessado de outra forma.

Altman pediu um “privilégio de IA” (é claro que sim) para resolver esses problemas de confidencialidade. Mas até que os legisladores criem um, a suposição segura é que qualquer coisa digitada no ChatGPT poderá algum dia ser lida de volta para você por outra pessoa. Se você não se sentir confortável com isso, não coloque isso em um prompt.