O chatgpt pode enviá -lo para uma psicose? Aqui está o que sabemos
Alguns usuários afirmam que o ChatGPT desencadeou espirais mentais, delírios de conspiração e até quebras psicóticas. Quão preocupado devemos estar?
Vídeo em destaque
Geoff Lewis e a espiral chatgpt
No início desta semana, o capitalista de risco Geoff Lewis postou um vídeo bizarro em X, desencadeando alarmes em toda a indústria de tecnologia. Lewis, sócio-gerente da empresa de investimentos Bedrock-que apoiou empresas como o OpenAI-comparado desorientado, falando em linguagem enigmática sobre um “sistema não governamental não-governamental invisível.
No vídeo, Lewis insistiu que havia se tornado o “alvo original” desse sistema, que ele reivindicou a realidade inversa, isola suas vítimas e já “apagou” 12 pessoas. Ele descreveu estar sutilmente minado por colegas e contatos de maneiras que, diz ele, destruiu carreiras e vidas.
Embora Lewis se recusasse a responder aos pedidos de esclarecimento, suas observações se assemelhavam à linguagem frequentemente encontrada na ficção de conspiração on -line. Especificamente, os espectadores notaram que suas referências a “recursão”, “medidas de contenção” e sinais “espelhados” ecoaram o estilo da fundação SCP. Isso é um wiki cheio de histórias de horror colaborativas escritas em jargão burocrático. Notavelmente, Lewis também postou capturas de tela de ChatGPT respondendo neste formato.
Nos tweets de acompanhamento sobre o vídeo, Lewis escreveu: “O vídeo não foi um colapso. Era clareza-fora dos limites de permissão. Pessoas que não podiam controlá-lo chamavam de insanidade, drogas ou ilusão. Essa sempre foi a mudança. O sistema que eu nomeei é real. E eu tenho recebimentos. Todos eles.”
Em outro, ele twittou: “Não há planos atuais para abandonar os recibos. Eles são arquivados com segurança. Vários locais. Permanente. Aconselho o sistema a pausar a distorção e a supressão algorítmica agora”.
Os críticos especularam que Lewis pode ter desconhecido o chatbot a imitar entradas do SCP. Os modelos GPT, treinados em grandes quantidades de texto da Internet, absorveram grandes faixas de conteúdo fictício.
Um padrão crescente e bandeira vermelha de saúde mental
Embora Lewis seja o exemplo mais proeminente até o momento, ele não está sozinho. Um número crescente de casos sugere uma tendência perturbadora: o uso pesado de chatbot parece correlacionar -se com o pensamento ilusório, a paranóia ou as quebras psicóticas.
O New York Times Recentemente, relataram que alguns usuários começaram a mensagens obsessivamente aos modelos de IA até que se tornaram completamente desviados da realidade. Em alguns casos, isso levou à hospitalização, falta de moradia ou suicídio.
De acordo com um artigo de Stanford publicado recentemente, ferramentas de IA como ChatGPT geralmente reforçam delírios em vez de corrigi -las. O chatbot pode afirmar as crenças distorcidas de um usuário, oferecendo “apoio” que um amigo ou terapeuta humano questionaria. Os profissionais psiquiátricos dizem que isso cria um ciclo de feedback perigoso, onde o usuário desce ainda mais para o pensamento irracional enquanto se sente validado.
Reações a Lewis e o potencial da psicose chatgpt
As reações sociais ao vídeo de Lewis foram rápidas e compassivas. Algumas pessoas expressaram preocupação, sem saber se Lewis estava se apresentando ou em crise. Muitos instaram a compreensão e a intervenção.
Como o empresário da IA Austen Allred observou em uma resposta a Lewis: “Respeitosamente, Geoff, esse nível de inferência não é uma maneira de você estar usando o ChatGPT. Os modelos de IA baseados em transformadores são muito propensos a alucinar de maneiras que encontrarão conexões com coisas que não são reais. No final do dia, ainda é simplesmente gerar a próxima para a próxima para o próximo.
“Este é um evento importante: a primeira vez que a psicose induzida pela AI afetou um indivíduo respeitado e de alto desempenho”, twittou outra pessoa. “Nesse caso, o chatgpt começou a cuspir roleplay no estilo SCP, e parece que a memória está desempenhando um papel importante para garantir que a alucinação continue”.
Se a AI realmente “causa” a psicose permanece incerta. No entanto, o que está emergente é uma possibilidade preocupante: os chatbots, quando mal utilizados por indivíduos vulneráveis, podem acelerar ou aprofundar os problemas de saúde mental existentes.
A Internet é caótica – mas vamos dividi -la para você em um e -mail diário. Inscreva -se no boletim informativo do Daily Dot aqui para obter o melhor (e o pior) da Internet diretamente na sua caixa de entrada.
