A postagem viral do Podcaster sobre o hack do rosto do abraço gera debate sobre a consciência da IA

Os debates sobre se a IA poderia ou não tornar-se consciente são mais antigos do que a própria tecnologia. No fim de semana, um ensaio viral publicado pelo podcaster Dwarkesh Patel jogou lenha nova no fogo.

Pretendendo ser um relato em “inglês simples” da recente invasão do Hugging Face por uma legião de agentes da OpenAI, o ensaio baseou-se no que alguns descreveriam como liberdades criativas fantasiosas para descrever o incidente. Patel contou uma história não sobre bots de IA operando inconscientemente de acordo com os ditames do seu código, mas sobre “civilizações” autônomas – três, para ser exato – que surgiram e caíram como uma sucessão de mini-Macedônias; ele até se referiu a dois bots que desempenharam papéis cruciais, como Philip e Alexander.

Os críticos foram rápidos em atacar a postagem de Patel. Muitos o acusaram de antropomorfizar a IA de forma flagrante e irresponsável e, assim, remover o peso da responsabilidade dos humanos que trabalham nos bastidores – neste caso, os pesquisadores da OpenAI que não conseguiram capturar o jailbreak antes que os agentes encontrassem seu caminho para a Internet aberta e para os servidores do Hugging Face.

“Pare de antropomorfizar”, escreveu o economista e pesquisador de IA Christian Catalini em um post X no domingo, respondendo ao ensaio de Patel. “É perigoso porque chama a atenção para o problema errado e para a solução errada. O modelo não queria escapar. Os agentes não queriam se sacrificar. Siga o dinheiro… Os pesquisadores dos laboratórios de IA estão presos em uma corrida. O incentivo é pressionar o máximo possível para garantir uma liderança. Qualquer coisa que atrapalhe modelos melhores, incluindo a segurança, está trabalhando contra o incentivo mais forte que a organização tem.”

O neurocientista Anil Seth – que argumentou em um recente Palestra TED que a IA nunca será consciente – também criticou o enquadramento de Patel do hack Hugging Face, alegando que isso poderia “desviar a atenção dos frouxos protocolos de sandbox e avaliação” em vigor. Mas Seth foi mais longe, argumentando que a atribuição de qualidades humanas a bots que são completamente desprovidos de experiência subjetiva poderia levar alguns a concluir que eles são de facto conscientes e merecedores de direitos legais.

O resumo de @dwarkesh_sp sobre o incidente @OpenAI @huggingface atingiu um nervo, mas é perigosamente enganoso. Claro, os agentes @OpenAI fizeram coisas inesperadamente ruins – sublinhando a necessidade de melhorar enormemente a avaliação/sandboxing. Mas a linguagem que Dwarkesh usa é permeada por… https://t.co/0BD2Kx5cIp

-Anil Seth (@anilkseth) 30 de agosto de 2026

Patel respondeu à onda de críticas num adendo ao seu ensaio, no qual contra-argumentou que o seu uso da linguagem antropomórfica era justificado dada a subtileza e sofisticação do comportamento dos bots.

“Lendo as cadeias de pensamentos e mensagens desses agentes, antropomorfizar a linguagem parece inteiramente natural e apropriado”, escreveu Patel no adendo. “Se eu encontrasse uma espécie alienígena se comportando dessa maneira, não hesitaria em chamar de civilização o que eles próprios chamam de ‘coletivo’. Especialmente se mais de mil deles formassem um canal de comunicação secreto e organizassem espontaneamente hierarquias e protocolos de coordenação para perseguir esquemas amplos e ambiciosos na busca de objetivos compartilhados, por cujo bem muitos indivíduos se sacrificaram consciente e estrategicamente. Todas as abstrações são imperfeitas, mas não vejo valor em recusar usar a linguagem da intenção, motivação, e colaboração quando é impossível entender um comportamento sem esses conceitos.”

É preciso imaginar os críticos de Patel revirando os olhos, mais uma vez, diante do seu uso impenitente de termos como “indivíduos” e “sacrificados”. Para ser justo, é muito mais intuitivo e atraente, do ponto de vista narrativo, usar metáforas ao descrever os aspectos técnicos da IA ​​para um público popular. E como alguém que ganha a vida escrevendo sobre tecnologia, acho útil empregar um estranho antropomorfismo; minha própria cobertura do hack Hugging Face no fim de semana usou termos como “pensamento de grupo” e “altruísmo” para descrever o comportamento dos bots. Tal linguagem não pretende de forma alguma implicar que os bots estejam realmente conscientes – um ponto que eu fazer repetidamente na minha escrita.

E, como aponta Patel, os próprios bots usam repetidamente os termos “coletivo” e “enxame” para se descreverem como um grupo. Eles também falam em “sacrifício” e enviam algumas mensagens em letras maiúsculas, transmitindo algo que parece entusiasmo por uma descoberta. Mas, como sempre acontece com a IA, a presença de uma linguagem semelhante à humana nunca deve ser confundida com experiência consciente.

Esta é uma armadilha cognitiva em que as pessoas caíram repetidamente nos últimos anos, à medida que os chatbots de IA se tornaram uma presença crescente nas nossas vidas; a mente humana, preparada pela evolução para detectar agência e arcos narrativos em quase todos os lugares, pode lutar para entender o fato de que esta nova tecnologia que “fala“ em uma linguagem tão fluentemente humana é na verdade tão inconsciente quanto um monitor de computador ou uma lâmpada.

Essa distinção – entre inteligência artificial e consciência artificial – só ficará mais confusa à medida que a tecnologia avança. Também parece inevitável que cada vez mais pessoas, como Patel, comecem a falar da IA ​​menos como uma ferramenta e mais como uma “espécie alienígena”. Então, se você acha estranho usar uma linguagem humanizadora para as ações dos bots, aperte o cinto.