Documentos revelam plano militar para IA agente que hackeia adversários dos EUA
Os documentos detectados pelo Intercept parecem revelar a ambição do Pentágono de desenvolver uma estrutura de IA de agência chamada ECHOTRIBBLE, concebida para “navegar na infra-estrutura, identificar e neutralizar ameaças”.
A julgar por estes documentos, aparentemente distribuídos por e para fornecedores, o Comando Central do Exército está buscando ajuda do setor privado enquanto tenta transformar a IA em armas, embora não esteja claro se ele saiu do projeto com alguma ferramenta de hacking alimentada por IA ainda, e o Cybercommand não respondeu ao pedido de comentários do Intercept.
Conforme evidenciado pelos documentos publicamente disponíveis sobre o ECHOTRIBBLE disponíveis no site do Centro de Inovação Cibernética de Fusão Cibernética (CFIC), sem fins lucrativos de defesa, o programa não é uma iniciativa ultrassecreta da DARPA. De acordo com o CFIC, no início deste mês houve um “evento de avaliação totalmente virtual para a iniciativa Agentic C2 Framework Tool (ECHOTRIBBLE)”. Foram gerados 65 white papers, dos quais cinco seriam transformados em apresentações e julgados por algo chamado Equipe de Avaliação.
Em janeiro, o secretário de Defesa/Guerra, Pete Hegseth, deixou bem claro que tinha algo assim em mente. “Vamos desencadear a experimentação, eliminar as barreiras burocráticas, concentrar os nossos investimentos e demonstrar a abordagem de execução necessária para garantir que lideramos a IA militar”, disse Hegseth, de acordo com um comunicado de imprensa do Pentágono. Ele acrescentou: “Nós nos tornaremos uma força de combate que prioriza a IA em todos os domínios”.
Sam Biddle do Intercept descreve a aparente visão do ainda nascente ECHOTRIBBLE como algo “quase como um worm de computador, navegando silenciosamente em uma rede estrangeira e pulando de dispositivo em dispositivo até encontrar a presa do Exército, atingindo alvos na nuvem, bem como aqueles em sistemas ‘air-gap’ que estão totalmente desconectados das redes.”
Mesmo os agentes de IA de hoje são capazes de trabalhar em enxames coordenados para realizar o que são essencialmente hacks, embora, felizmente, casos como o incidente do Hugging Face não tenham causado grandes danos. No geral, a lição aprendida com as histórias de segurança de IA do verão passado foi que os agentes de IA com capacidades de hacking nem sempre agem por razões que são imediatamente legíveis para os espectadores humanos. “Agentes desonestos” são mais como sistemas complexos apresentando falhas imprevisíveis do que Exterminadores acordando com sede de sangue humano.
Mas isso também é bastante assustador. Como disse David Krueger, professor de aprendizado de máquina da Universidade de Montreal, ao Intercept: “Dados os modos de falha conhecidos do atual paradigma de IA, criar sistemas de IA autônomos com o mandato de ‘neutralizar ameaças’ é incrivelmente perigoso”.
