Antrópico bloqueia ‘uso malicioso’ de IA que poderia desenvolver armas biológicas
A Anthropic afirma ter identificado e interrompido tentativas de usar seu modelo de IA para “atividades maliciosas” que poderiam apoiar o desenvolvimento de armas biológicas e convencionais.
O modelo de IA da empresa, Claude, também foi usado em uma campanha de espionagem cibernética ligada à Rússia e por uma instituição de propaganda iraniana, de acordo com o último relatório de inteligência de ameaças da Anthropic.
Os casos preocupantes detectados nos últimos oito meses variaram de aplicativos de namoro falsos e golpes de Wi-Fi em hotéis até vigilância criada para identificar dissidentes.
As revelações vêm após alertas de um importante pesquisador de segurança da Antrópico sobre os riscos potenciais da IA para a humanidade.
A Anthropic também acusou as empresas chinesas de IA de tentarem replicar as capacidades de Claude.
A empresa publicou seu último relatório de inteligência de ameaças, externo na quinta-feira, afirmando que o fez porque acredita ter “a responsabilidade de divulgar o uso indevido malicioso dos nossos serviços”.
O extenso relatório enumera casos em que grupos suspeitos de serem patrocinados pelo Estado, criminosos, fornecedores de spyware, instituições de propaganda estatais e indivíduos com motivação política fizeram mau uso da sua tecnologia.
O “uso malicioso” de seus modelos Claude Haiku, Sonnet e Opus foi interrompido entre dezembro de 2025 e agosto de 2026, disse.
Nenhum dos casos de uso indevido envolveu Claude Fable ou os poderosos modelos da classe Mythos, com exceção de um caso de destilação – o processo de treinamento de modelos menores de IA usando modelos maiores e mais caros.
Além de detectar o uso de seus modelos para operações cibernéticas e de influência, vigilância, golpes e fraudes e desenvolvimento de armas, a Anthropic disse que bloqueou cientistas que usaram sua IA de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.
O relatório destacou “cinco estudos de caso de atores que utilizam nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas”.
O uso indevido biológico, afirmou, é “um dos riscos mais sérios do modelo de IA de fronteira”. Sem as salvaguardas corretas, tais capacidades “poderiam ter consequências catastróficas”, disse a Anthropic.
“A mesma informação que pode ser usada para desenvolver uma arma biológica também poderia ser usada para desenvolver, por exemplo, uma vacina ou uma cura para uma doença”, disse a Anthropic.
Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse ao New York Times, externo foi “uma situação incrivelmente sutil”.
“Você não está vendo alguém no estilo de quadrinhos dizer: ‘Ei, eu quero construir uma arma biológica para matar todo mundo’”, disse ele.
O relatório também apontou seis casos em que Claude foi usado “para desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle que os operam”.
