Investigadores do Pentágono afirmam que a dependência excessiva da tecnologia Palantir AI contribuiu para o ataque dos EUA que matou 123 crianças iranianas

Em Fevereiro, dois mísseis Tomahawk atingiram a Escola Primária Shajarah Tayyebeh, na cidade de Minab, no sul do Irão, no primeiro dia da guerra no Irão. As explosões mataram mais de 150 pessoas, incluindo pelo menos 123 crianças.

Relatórios anteriores já apontavam para dados de segmentação desatualizados e levantavam questões sobre se a inteligência artificial teve um papel na confusão. E agora, uma investigação da Bloomberg publicada na sexta-feira acrescenta mais detalhes à história, citando funcionários envolvidos numa revisão interna não divulgada do Pentágono. Esses funcionários disseram que alguns funcionários do Pentágono souberam em poucas horas que os Estados Unidos tinham atingido a escola e descreveram uma cascata de falhas evitáveis ​​que incluíam uma dependência excessiva de uma ferramenta de IA construída pela Palantir.

De acordo com os funcionários que falaram com a Bloomberg, alguns funcionários do Comando Central dos EUA confiaram demasiado na inteligência artificial dentro do Maven Smart System, uma plataforma de integração e segmentação de dados alimentada por IA desenvolvida pela Palantir para acelerar a análise de inteligência e a tomada de decisões. O Departamento de Defesa supostamente tornou a ferramenta de software uma pedra angular das operações militares no ano passado. Vários ex-oficiais superiores agora trabalham para a Palantir, incluindo alguns com autorizações de alto nível na sede do Centcom em Tampa.

Autoridades disseram que alguns usuários esperavam que o Maven sinalizasse registros obsoletos ou contradições na inteligência reunida para alvos potenciais, embora não esteja claro por que eles pensaram que o sistema faria isso. O local do Minab, que foi catalogado como uma instalação do Corpo da Guarda Revolucionária Islâmica devido a dados desatualizados, foi alimentado no Maven com outros candidatos e surgiu como um alvo recomendado para o primeiro dia. O trabalho de lista de metas que antes levava horas foi condensado em minutos.

Um porta-voz da Palantir disse à Bloomberg que a empresa “não é responsável pelos dados subjacentes nem pela identificação de deficiências de inteligência” e que não há evidências de que seu software tenha sido o culpado. Duas pessoas familiarizadas com os contratos da Palantir no Pentágono disseram que o governo é o principal responsável pela qualidade das informações que alimentam o Maven. Após o ataque, Palantir adicionou recursos que “reavaliam a inteligência subjacente para identificar fatores que desqualificariam um alvo e sinalizariam inconsistências e imprecisões que a revisão humana pode ter perdido”, disse uma pessoa familiarizada com o trabalho. Diz-se que essa nova funcionalidade já detectou algumas anomalias.

Mais de 120 democratas da Câmara escreveram ao secretário de Defesa Pete Hegseth em março perguntando qual o papel do Maven e outras ferramentas de IA na identificação do site. O Pentágono não respondeu publicamente, citando a investigação em curso. Autoridades disseram à Bloomberg que o relatório completo está praticamente completo há meses. Um porta-voz do Pentágono disse que o incidente continua sob investigação e recusou mais comentários.

A dependência excessiva de Maven foi apenas uma das três falhas na cadeia de destruição descrita pela Bloomberg. As outras peças eram informações de má qualidade e imagens de satélite desatualizadas.

Os bancos de dados dos EUA listaram o complexo Minab como uma instalação militar durante anos, mas imagens comerciais de satélite mostraram algo diferente. A construção de muros e entradas separadas que separam a escola da base adjacente parece ter sido concluída em 2017. Uma imagem de 2018 mostra paredes pintadas com cores vivas, um campo de futebol, fileiras de montagem e marcações de playground.

A Bloomberg informou em Junho que um analista detectou mudanças já em 2019 e registou observações num sistema que não estava ligado à principal base de dados de inteligência militar utilizada para a selecção de alvos. Essas notas nunca chegaram às pessoas que construíram o pacote de greve. A inteligência humana do sul do Irão era escassa, mas a escola tinha o seu próprio website e aparecia no Google Maps.

O local permaneceu rotulado como uma instalação do IRGC enquanto a administração Trump exigia um ataque inicial esmagador. Mais de 1.000 alvos iranianos foram atingidos nas primeiras 24 horas e, segundo fontes da Bloomberg, esse ritmo comprimiu o tempo disponível para confirmações adicionais.

O pessoal das equipas de mitigação de danos civis no Departamento de Defesa dos EUA também caiu cerca de 90% nos últimos anos, diminuindo para menos de 20 pessoas no total. O grupo do Centcom encolheu de 10 pessoas para uma. Nenhum membro dessas equipes revisou o local do Minab antes dos mísseis estarem no ar.

Um inquérito separado realizado esta semana pela Missão Internacional Independente de Apuramento de Factos das Nações Unidas sobre o Irão chegou à conclusão de que havia motivos razoáveis ​​para acreditar que os Estados Unidos cometeram o crime de guerra de lançar um ataque indiscriminado. Concluiu que os EUA “falharam na sua obrigação de fazer tudo o que fosse possível para verificar” que a escola era um objectivo militar e que o fracasso “foi além da mera negligência”. O relatório afirma que os Estados Unidos “dirigiram os ataques ao edifício da escola, embora estivessem cientes do risco substancial de atingir um objeto civil e agissem de forma imprudente relativamente à possibilidade de isso acontecer”.

Apesar destes relatórios, Washington não aceitou publicamente a responsabilidade. Em Março, o Presidente Trump chegou ao ponto de dizer aos jornalistas: “Não, na minha opinião, com base no que vi, isso foi feito pelo Irão. Achamos que foi feito pelo Irão, porque eles são muito imprecisos, como sabem, com as suas munições”. Numa entrevista mais recente à Fox News, Trump disse: “Acho que ninguém será capaz de dizer o que aconteceu lá”. Um alto funcionário da administração disse à Bloomberg: “Os Estados Unidos não têm como alvo civis”, e o Departamento de Defesa recusou-se a comentar o relatório da ONU.

Os erros associados à dependência excessiva da IA ​​estão a tornar-se um tema recorrente à medida que a tecnologia se torna mais incorporada no trabalho militar e policial. Num episódio separado relatado esta semana, um analista de operações especiais utilizou um chatbot que alucinava que um navio com bandeira chinesa no Médio Oriente transportava componentes de armas nucleares com destino ao Irão. Os militares dos EUA prepararam-se para embarcar no navio e recuaram no último minuto.

O uso combinado de reconhecimento facial e tecnologia de IA pela aplicação da lei também produziu seus próprios resultados terríveis. Na Flórida, uma correspondência automatizada de reconhecimento facial levou à prisão de um homem que nunca havia estado no estado e estava a 640 quilômetros de distância, trabalhando, resultando em meses de prisão e na perda de seu emprego e de sua casa. Em outro caso, um homem foi preso com base em uma partida, apesar de estar a mais de 480 quilômetros de distância no momento do suposto crime. As acusações em ambos os casos acabaram por ser retiradas, mas esses casos fazem parte de uma lista muito mais longa de detenções falsas a nível nacional, com base em pontuações de software.

Embora as pessoas em todos os campos ocasionalmente confiem excessivamente na IA à medida que aprendem os aspectos práticos do que esta pode e não pode fazer, os riscos são muito maiores nas aplicações militares e de aplicação da lei, onde o mau uso humano ou a aceitação de resultados automatizados sem verificar os factos subjacentes podem ter consequências catastróficas, de vida ou de morte. Com isso em mente, talvez a forma como os humanos estão a utilizar esta tecnologia, e não o seu poder teórico e incontrolado, seja a questão mais premente neste momento.