Ordem governamental encerra Fable 5 apesar das objeções da Anthropic
O governo dos Estados Unidos emitiu uma ordem legal de segurança nacional para a Anthropic suspender o acesso aos seus novos modelos de IA Fable 5 e Mythos 5. A ordem obriga efetivamente a Anthropic a cortar o acesso a todos, pois seria essencialmente impossível verificar o estatuto de estrangeiro.
Diretiva de Controle de Exportação
O governo dos Estados Unidos emitiu uma Diretiva de Controle de Exportação, que é uma ordem legal que restringe ou suspende a transferência de produtos, dados ou tecnologias específicos para países estrangeiros ou cidadãos de outro país.
Antrópico anunciado:
“O governo dos EUA, citando autoridades de segurança nacional, emitiu uma diretiva de controle de exportação para suspender todo o acesso ao Fable 5 e ao Mythos 5 por qualquer cidadão estrangeiro, seja dentro ou fora dos Estados Unidos, incluindo funcionários estrangeiros da Anthropic. O efeito líquido desta ordem é que devemos desabilitar abruptamente o Fable 5 e o Mythos 5 para todos os nossos clientes para garantir a conformidade. O acesso a todos os outros modelos da Anthropic não será afetado.”
O pedido foi recebido por volta das 17h21 EST. A explicação da ordem da Anthropic cita que o governo dos Estados Unidos “acredita: há uma maneira de contornar as grades de segurança na Fábula 5. A Anthropic considera os exemplos que revisou como vulnerabilidades menores.
Antrópico contradiz a preocupação do governo com segurança cibernética
A resposta da Anthropic é que eles já possuem fortes salvaguardas que tornam improvável que alguém faça uso indevido de seu modelo de IA do Fable 5. A sua posição parece contrariar a afirmação do governo de que há risco de segurança.
Eles explicaram:
“Instituímos salvaguardas fortes que reduzem significativamente a probabilidade de o Fable ser utilizado indevidamente para tarefas relacionadas com a segurança cibernética (entre outras). Na verdade, as nossas salvaguardas são tão fortes que muitos utilizadores se queixaram de que são demasiado amplas.
…Dado que a resistência perfeita ao jailbreak não parece ser possível hoje, a Anthropic adotou uma estratégia de defesa em profundidade com Fable 5. Nosso objetivo era tornar os jailbreaks estreitos (no caso de jailbreaks não universais) ou muito caros de produzir (no caso de jailbreaks universais), e combinar isso com monitoramento completo para detectar e encerrar rapidamente quaisquer ataques bem-sucedidos.
Apoiamos esta estratégia de defesa em profundidade. Reduz os riscos apresentados pelo Fable, tornando-os comparáveis aos riscos dos modelos existentes já implantados em toda a indústria.
Nem sequer recebemos a divulgação de um potencial jailbreak preocupante e não universal que levou a um resultado prejudicial. Os potenciais jailbreaks que nos foram divulgados são respostas inteiramente benignas ou são descobertas menores que não fornecem nenhuma melhoria específica do Mythos.”
Disputa do governo dos Estados Unidos com a Antrópica
O governo dos Estados Unidos tem tido uma disputa contínua com a Anthropic que surgiu da recusa da Anthropic em permitir que os seus produtos fossem utilizados para vigilância doméstica em massa e sistemas de armas totalmente autónomos, que são armas que podem seleccionar independentemente os seus alvos e atacar sem envolvimento humano adicional.
