Nunca se esqueça, AI Slop está poluindo a história do 11 de setembro na Internet enquanto falamos
ficou conhecido como o Homem da Bandana Vermelha depois que se espalharam histórias sobre seu heroísmo em 11 de setembro de 2001. Agora, uma imagem gerada por IA que pretende mostrar Crowther resgatando pessoas do World Trade Center está se tornando viral – o exemplo mais recente de como imagens fabricadas podem distorcer nossa memória coletiva do 11 de setembro por gerações.
Crowther, de 24 anos, trabalhava no 104º andar da Torre Sul do World Trade Center quando um avião caiu naquele dia fatídico. Crowther, um corretor de ações, também foi bombeiro voluntário e é responsável por ajudar a salvar a vida de pelo menos uma dúzia de pessoas. Ele supostamente ajudou a guiar as pessoas até a única escada em funcionamento e até mesmo carregou algumas pessoas escada abaixo. Ele morreu quando a Torre Sul desabou.
O presidente Donald Trump concedeu a Crowther a Medalha Presidencial da Liberdade na terça-feira e, como sempre, o presidente teve que fazer isso sozinho, insistindo que não gosta que o homem de bandana vermelha tenha se tornado muito mais famoso do que ele.
A história de heroísmo de Crowther é muito real de acordo com várias testemunhas, mas a imagem de Crowther que está se tornando viral não é. Não há fotos conhecidas de Crowther em ação no dia 11 de setembro.
Um grande problema com a proliferação de imagens de IA é que os detectores de imagens de IA podem não ser confiáveis. O Gizmodo executou a imagem acima através do ChatGPT e perguntou se ela foi criada com IA. A resposta do ChatGPT: “É muito provável que não seja gerado por IA. Parece ser uma fotografia histórica genuína, em vez de uma imagem criada por IA.”
A explicação do ChatGPT insistiu que a imagem tem características “que você esperaria de uma fotografia real de notícias” e que é “consistente com fotografias tiradas durante a evacuação do World Trade Center após os ataques de 11 de setembro”.
Quando o Gizmodo carregou a imagem para Grok, o chatbot alegou que era “uma fotografia bem conhecida dos ataques terroristas de 11 de setembro de 2001”, mas quando pressionado sobre se era autêntica, Grok finalmente admitiu que poderia ser falsa.
Claude disse que a imagem era uma foto, mas provavelmente uma dramatização e não criada com IA. Quando pedi a Claude para fazer uma pesquisa reversa de imagens, o chatbot disse que “confirmou” que a imagem era de um documentário ou similar que retratava os eventos e não foi feita com IA: “Então, para responder diretamente à sua pergunta: não, isso não parece gerado por IA – é uma foto de reconstituição/dramatização…”
O documentário definitivo sobre Crowther, Homem De Bandana Vermelha (2017), apresenta um ator recriando brevemente algumas de suas ações enquanto salva pessoas, mas não corresponde à imagem de IA que está se tornando viral no momento. O ator que interpreta Crowther naquele documentário está vestindo uma camiseta branca, não uma camisa de botão e gravata.
Quando testamos o Gemini e perguntamos se a imagem tinha a marca d’água SynthID, que é adicionada a todas as imagens criadas com as ferramentas de IA do Google, o chatbot disse que não poderia verificar isso. O Google abriu a detecção de SynthID para todos os usuários do Gemini no ano passado, então essa foi uma afirmação estranha. Depois de ser pressionado, o chatbot disse que estávamos certos ao dizer que esse recurso havia sido adicionado e o Gemini não descobriu que ele tinha SynthID. A alucinação e a recusa inicial de verificação deveriam definitivamente fazer-nos hesitar quando confiamos nas salvaguardas que as empresas de IA supostamente criaram para verificarmos os factos da nossa própria realidade.
Em uma reviravolta um tanto estranha, a visão geral da IA do Google insiste que a imagem é uma “cena dramática da minissérie televisiva de desastre de 1999”. Pós-choque: Terremoto em Nova York”, algo que é falso e que dataria a imagem antes dos ataques terroristas de 2001.
A imagem não é genuína e foi definitivamente feita com IA. Qualquer um pode dizer isso apenas olhando para ele, para não falar do fato de que pesquisas reversas de imagens revelam que provavelmente nunca foi publicado antes desta semana. Outras imagens de IA de Crowther também surgiram este ano, como a abaixo do Facebook.
Aproximadamente 25% dos americanos vivos em 2026 ainda não nasceram em 11 de setembro de 2001. As imagens que vivem e se espalham online moldam a forma como entendemos esse dia. E há muitas outras imagens de IA circulando online que pretendem mostrar o que aconteceu naquele dia. Mesmo quando os acontecimentos subjacentes se baseiam na realidade, as imagens falsas distorcem a forma como entendemos a história.
De certa forma, este não é exatamente um problema novo. Aqui no Gizmodo, passamos grande parte da década de 2010 desmascarando imagens históricas falsas que foram criadas com ferramentas estilo Photoshop. Mas havia um atrito inerente com o Photoshop antigo. Os usuários eram obrigados a ter algum talento e gastar um pouco de tempo criando falsificações. Hoje em dia, qualquer um pode gerar uma imagem falsa usando apenas palavras e gerar um resultado fotorrealista em segundos.
Essa baixa barreira à entrada criou um ambiente onde muitas vezes nos recusamos a acreditar em coisas que são reais porque poderiam ser IA. Pessoas como Donald Trump até exploram isso, insistindo que fotos e vídeos autênticos devem ser IA porque são inconvenientes para sua narrativa. Houve muitos desses casos, acredite ou não. E somos todos muito mais burros por isso.
LEIA MAIS:
