A IA está “no caminho certo para impedir a tomada de decisões humanas” na guerra, alerta funcionário da ONU
Existem algumas partes da vida que a maioria das pessoas provavelmente ficaria feliz em delegar às máquinas: filtrar e-mails com spam, sinalizar assinaturas antigas e esquecidas pelas quais você ainda está pagando, fazer reservas em restaurantes e assim por diante. Tarefas simples e mundanas que não resultarão em catástrofe quando os bots inevitavelmente errarem. Em situações de vida ou morte, provavelmente não é aconselhável dar às máquinas o controle sobre decisões cruciais.
No entanto, é precisamente isso que está a acontecer nos campos de batalha modernos, como muitos especialistas começaram a alertar. A IA está “no caminho certo para impedir a tomada de decisões humanas” na guerra, disse Robin Geiss, diretor do Instituto das Nações Unidas para Pesquisa sobre Desarmamento (UNIDIR), um grupo de pesquisa independente dentro da ONU. disse durante uma coletiva de imprensa na cidade de Nova York na terça-feira.
“Vamos permitir que as máquinas atinjam e matem seres humanos?” ele perguntou, chamando isso de “linha vermelha moral”. Entregar decisões militares sensíveis a sistemas de IA de caixa preta poderia tornar mais difícil para os seres humanos evitar erros dispendiosos, observou Geiss – inclusive quando se trata da área mais sensível e perigosa de todas: as armas nucleares.
Suas declarações ecoam those made by UN Secretary General António Guterres sobre a questão dos sistemas de armas totalmente autónomos, ou “robôs assassinos”, como Guterres os chamou. “Algumas decisões devem permanecer para sempre humanas”, disse Guterres durante um discurso na primeira conferência do Diálogo Global sobre Governança da IA, em julho, “nada mais do que tirar uma vida humana”. O Papa Leão XIV fez um apelo semelhante no seu Magnífica Humanidade encíclica no início do ano, instando a comunidade global a impor “as restrições éticas mais rigorosas” em torno do uso da IA na guerra.
Essa utilização tem crescido constantemente nos últimos anos, graças não só aos rápidos avanços na IA, mas também ao ressurgimento de conflitos militares em todo o mundo, que proporcionou um campo de testes no mundo real e alimentou a procura de armas autónomas e outros sistemas militares alimentados por IA. Startups americanas como Anduril e Palantir, por exemplo, foram rápidas em compartilhar sua tecnologia com os ucranianos após a invasão daquele país pela Rússia no início de 2022. E no início de 2024 – meses depois de militantes do Hamas lançarem um ataque surpresa a Israel, provocando retaliação rápida e severa – a Bloomberg relatado que a Palantir havia fechado um acordo com o Ministério da Defesa de Israel “em apoio a missões relacionadas à guerra”, disse o vice-presidente executivo da Palantir, Josh Harris, ao meio de comunicação.
“A questão não é mais se a inteligência artificial será aplicada num contexto militar; a verdadeira questão é como será aplicado e como será aplicado no futuro”, disse Geiss em um vídeo postado na conta oficial do UNIDIR no YouTube em abril do ano passado.
Nos EUA, o desenvolvimento de novas tecnologias para os militares tem sido historicamente gerido por um punhado de empreiteiros como a Lockheed-Martin e a Northrop Grumman. Nesses acordos, o Pentágono era o proprietário final da tecnologia, o que significa que tinha a palavra final sobre como, quando, onde e porquê poderia ser utilizada no campo de batalha. Mas hoje a I&D de tecnologias militares foi em grande parte entregue a Silicon Valley. E, como resultado, um pequeno número de poderosos bilionários da tecnologia são capazes de fazer pender a balança nas operações militares – como evidenciado pela declaração do Pentágono. disputa legal em andamento com Antrópico e Elon Musk relatado decisão de cortar o acesso ucraniano ao Starshield. Esses executivos tecnológicos têm um incentivo óbvio para introduzir a sua tecnologia – incluindo sistemas de IA – tão profundamente quanto possível nos sistemas de comando e controlo militares.
O próprio Pentágono também parece estar entrando no jogo de guerra movido pela IA. Como o The Intercept noticiou no início desta semana, o Comando Cibernético do Exército (ARCYBER) está experimentando formas de armando agentes de IA como sistemas de hacking autônomos visando os sistemas de computador dos adversários. Pense nos agentes OpenAI que atacou Abraçando o Rostomas controlado pelos militares dos EUA e, em teoria, menos propenso a escapar desse controlo; “em teoria” são as palavras-chave aqui.
