Relatório de segurança da Anthropic: gripe aviária, enxames de drones, vigilância em massa

Se a humanidade acabasse nas mãos da IA, como alegam postagens virais de ex-funcionários da Anthropic, como seria?

Será que os robôs hackeariam nossos arsenais nucleares e os enviariam voando pelo céu? Será que os algoritmos sofisticados projetariam um vírus totalmente novo para ser lançado na população? Seria tão simples como degradar lentamente a nossa confiança nos nossos semelhantes, até que o caos reine?

Na verdade não sabemos, mas um novo relatório de segurança da Anthropic, que detalha várias maneiras pelas quais a IA já pode dar errado, é bastante alarmante.

Indivíduos tentaram usar IA antrópica para desenvolver armas biológicas

O relatório da Anthropic – parte dos esforços contínuos de transparência e monitoramento da empresa – é uma pesquisa abrangente dos últimos oito meses de tentativas de agentes de ameaças de usar seu chatbot generativo de IA, Claude, para atividades “maliciosas”. Cobrindo o que a empresa chama de casos de uso “atípicos”, muitos dos exemplos envolvem grupos patrocinados pelo Estado, fornecedores de spyware e propagandistas governamentais.

A Anthropic categorizou tal atividade em sete “áreas prejudiciais”: operações cibernéticas, operações de influência, vigilância, golpes e fraudes, uso indevido de produtos biológicos, desenvolvimento de armas convencionais e destilação. A Antrópica não incluiu detalhes sobre há quanto tempo a atividade ocorria na maioria dos casos.

No relatório, a equipe de Inteligência de Ameaças da empresa descreveu cinco estudos de caso conhecidos envolvendo o uso potencial de Claude para o desenvolvimento de armas biológicas.

A empresa alega que os investigadores, incluindo utilizadores apoiados pelo Estado, levaram Claude a redigir pedidos de subvenção separados para fazer experiências com o vírus chikungunya e o ortopoxvírus transmitidos por mosquitos. Este último é uma família de vírus que causa doenças humanas, incluindo a varíola.

A Antthropic disse que os usuários “contornaram os controles” projetados para impedir que indivíduos em países sem acesso a Claude usassem o produto. Os utilizadores também tentaram ocultar o propósito da sua investigação, aparentemente para fugir às salvaguardas.

A Anthropic descreveu os indivíduos em cada estudo de caso como cientistas ativos, mas a empresa não os nomeou.

“Não afirmamos que eles pretendiam causar danos, e identificá-los ou a seus laboratórios poderia expô-los a danos”, escreveu a empresa em seu relatório. A Anthropic disse que baniu as contas dos usuários ao descobrir suas atividades e incorporou suas descobertas em seu trabalho contínuo de segurança.

Claude construiu software para drones armados, mísseis e armas

O bot da Anthropic foi aproveitado para construir e refinar software usado para desenvolvimento de armas, explicou o relatório, incluindo tecnologia que permitiu o projeto, construção e teste de munições do mundo real.

“Historicamente, este tipo de trabalho foi descoberto por governos, painéis das Nações Unidas e investigadores externos, que os reúnem a partir de hardware recuperado e de fontes públicas”, explicou a empresa.

Uma conta, que a Anthropic atribui a um agente freelance baseado na Rússia trabalhando em uma operação intitulada “operação “DronDoc” ou “Serafim”, usou Claude Code para projetar um “enxame de drones kamikaze autônomos full-stack com visão em primeira pessoa (FPV)”.

A empresa também afirma que uma conta baseada na China, potencialmente um investigador militar-industrial, utilizou as ferramentas de trabalho de Claude para criar módulos de guerra eletrónica destinados a contornar o radar e as comunicações inimigas e a suprimir as defesas aéreas. A simulação do usuário incluiu 12 alvos localizados em Taiwan.

Claude costumava monitorar dissidentes estrangeiros e construir sistemas de vigilância em massa

A Anthropic descreveu nove casos em que Claude foi usado para “construir, administrar e de outra forma facilitar” esforços de vigilância patrocinados pelo Estado em países estrangeiros (incluindo China, Irã e nações da África Ocidental), bem como redes de vigilância contratadas.

Num caso, Claude foi utilizado por uma operação com suspeitas de ligações à República Popular da China para localizar, traçar perfis e recrutar populações uigures politicamente ligadas — e jornalistas — com ligações ao Exército Sírio. Claude usou dados em massa de bate-papos monitorados do WhatsApp e do Telegram para traçar o perfil de indivíduos.

Noutro, pelo menos 16 contas associadas a agências paramilitares e de segurança doméstica iranianas estavam ligadas à vigilância e a extensões maliciosas de navegador criadas por Claude, que foram depois utilizadas para recolher dados de 6.388 iranianos. Um “ator de ameaça do nexo Irã” também usou Claude para localizar alvos navais dos EUA.

Em toda a gama de casos, a IA generativa foi utilizada para substituir as operações de vigilância humana, agilizar a criação de perfis-alvo utilizando dados pessoais e facilitar o trabalho diário dos monitores governamentais. A empresa observou que os usuários estão proibidos de usar seus sistemas de IA para “vigilância não consensual” e criação de perfis de acordo com sua atual Política de Uso.

Claude ajudou a automatizar operações de espionagem cibernética

A Antrópico afirma no relatório que a IA permitiu que “atores de ameaças” automatizassem suas operações cibernéticas. Nos estudos de caso partilhados pela Anthropic, estes indivíduos confiaram em “estruturas” multiagentes para reconhecimento e exploração numa tentativa de roubar informações sensíveis.

Um ator, identificado como GTG-20006 no relatório, tornou-se mais rápido com o uso da IA. A Antrópica afirma que este indivíduo atacou alvos de inteligência militar nos governos ucraniano e europeu, além de organizações e indivíduos ligados à política externa dos EUA.

GTG-20006, que a Anthropic caracteriza como um agente de espionagem russo, usou IA para conduzir esquemas de phishing, ClickFix e sequestro de sistema de nomes de domínio (DNS).

A Anthropic também afirma que o usuário tinha como alvo fabricantes e fabricantes de drones militares e se infiltrou em pelo menos três fornecedores de hospitalidade para atingir os dispositivos de hóspedes de hotéis que eram funcionários do governo ucraniano e fabricantes de drones.

Os exemplos adicionais de operações cibernéticas habilitadas por IA da Anthropic ofereceram uma visão de campanhas conduzidas por grupos criminosos menores e organizações patrocinadas pelo Estado.

“A difusão da IA ​​nivelou o campo de jogo, dando a ambas as classes de atores acesso ao mesmo conjunto de capacidades avançadas”, disse a Anthropic.

Preocupações com a segurança da IA ​​provocam fervor sobre a regulamentação

“Estamos publicando este trabalho porque acreditamos que temos a responsabilidade de divulgar o uso indevido malicioso de nossos serviços. À medida que os modelos se tornam cada vez mais capazes, seus riscos aumentarão, a menos que os desenvolvedores de IA e os defensores da sociedade atuem para torná-los mais seguros”, escreveu a empresa.

Uma onda de atividades desonestas de IA em todo o setor gerou uma investida enérgica em direção à regulamentação. A Anthropic recentemente co-assinou projetos de lei de supervisão de IA líderes do setor para o estado da Califórnia.

Um dos projetos de lei estabelecerá um registro de auditoria independente, o primeiro de seu tipo, composto por avaliadores terceirizados examinados. O segundo projeto de lei cria uma estrutura para avaliar sistemas e empresas de IA de acordo com a legislação estadual existente.

Os projetos de lei também foram apoiados pelo concorrente OpenAI, com a empresa sinalizando seu apoio à legislação dias antes do governador Gavin Newsom sancioná-los. No início desta semana, a OpenAI anunciou que estava explorando uma nova estrutura para alertar o público sobre agentes de IA à solta.