A IA quase levou os militares dos EUA a iniciar uma guerra com a China, afirma o relatório
Fontes da CNN afirmam que os EUA quase atacaram um navio chinês que acreditavam transportar componentes de armas nucleares.
Um relatório de inteligência falso, parcialmente gerado por IA, quase levou os militares dos EUA a atacar um navio chinês no Oriente Médio, CNN relatórios. O incidente “quase iniciou uma guerra”, segundo uma fonte citada no relatório, e destaca os riscos de incorporar a IA no trabalho sensível do Departamento de Defesa dos EUA.
O Engadget pediu ao Departamento de Defesa que comentasse sobre CNNestá reportando. Atualizaremos este artigo se recebermos uma resposta.
A avaliação foi elaborada por um analista de comando de operações especiais que perguntou a um chatbot de IA sobre o manifesto do navio chinês. De acordo com CNNo chatbot combinou “inteligência de código aberto com inteligência de sinais secretos” para concluir que o navio continha os “componentes de um programa de armas nucleares” – uma afirmação que quase levou os militares a apreender o navio até que as autoridades descobriram que era gerado por IA.
CNN não foi capaz de descobrir o que o navio realmente carregava ou qual ferramenta de IA, comercial ou projetada para o governo dos EUA, o analista usou. Dado o esforço do Departamento de Defesa para adotar a IA em geral, existem potencialmente várias opções.
Em Janeiro, o secretário da Defesa, Pete Hegseth, publicou um memorando orientando o DoD a tornar-se “AI-first” e a experimentar modelos das principais empresas de IA dos EUA. Isso não funcionou como planeado com a Anthropic, que se recusou a permitir que os militares utilizassem os seus modelos para o desenvolvimento de armas autónomas e foi brevemente banida pelo governo, mas levou a várias outras parcerias de IA. Por exemplo, a SpaceXAI supostamente fechou um acordo para permitir que os militares usassem o Grok em fevereiro, e a NVIDIA, a Microsoft e a Amazon firmaram uma parceria para oferecer suas tecnologias de IA ao DoD em maio. Esses tipos de acordos governamentais são lucrativos, e é por isso que as empresas os buscam. Mas ajudar a difundir a adoção da IA acarreta claramente riscos que o software empresarial normal não acarreta.
