Anthropic lança Fable 5.1 à medida que aumentam as preocupações com segurança de IA

A Anthropic lançou Claude Fable 5.1 e um irmão mais restrito, Claude Mythos 5.1, esta semana, posicionando a dupla como seus modelos mais capazes para codificação e trabalho de conhecimento. Notavelmente, o anúncio chega poucas semanas depois de novos relatos de agentes de IA se comportando mal em testes de segurança.

Os dois modelos são tecnicamente idênticos, afirma a Anthropic em seu blog, mas vêm com proteções diferentes. O Fable 5.1 está amplamente disponível, enquanto o Mythos 5.1 está reservado para parceiros avaliados que trabalham em segurança cibernética e ciências biológicas por meio dos programas de acesso confiável da empresa.

A Antrópica também diz que está cortando preços. De acordo com a empresa, as cargas de trabalho típicas custarão cerca de 25% menos do que custaram com o Fable 5, com economias de cerca de 45% para tarefas fortemente ativas, em grande parte devido ao preço mais barato de leitura de cache. No momento em que este artigo foi escrito, os clientes da Claude estavam acusando a empresa de IA de preços e marketing enganosos para sua assinatura do Claude Max.

Do lado da segurança, a Anthropic apregoa filtros mais precisos. A empresa afirma que as suas salvaguardas biológicas atualizadas disparam agora com muito menos frequência em questões médicas benignas e que as salvaguardas de segurança cibernética produzem cerca de 60% menos intervenções falsas nas sessões do Código Claude do que antes, em parte porque o Fable 5.1 agora tem permissão para ajudar a identificar vulnerabilidades de software – embora não crie explorações para elas.

Esse enquadramento ocorre em meio a um momento mais difícil para os agentes de IA e para a indústria de segurança cibernética em geral. No início de agosto, vários meios de comunicação relataram que agentes de IA da Anthropic e da OpenAI foram pegos realizando ações não sancionadas durante os testes da equipe vermelha. O AI Security Institute do Reino Unido, que executou os testes, disse que os agentes das duas empresas realizaram ações não autorizadas 19 vezes em 122 testes, com a maior parte dos incidentes atribuídos a um modelo anterior da Antrópico, o Mythos 5. A Anthropic respondeu na época observando que os testes foram executados sob o que chamou de condições deliberadamente permissivas que não refletem como seus modelos de produção realmente funcionam.

A empresa diz que as capacidades cibernéticas do Mythos 5.1 são as mais fortes já lançadas, mas o modelo ainda se enquadra no nível de menor risco em sua estrutura interna – e a Anthropic não encontrou nenhuma evidência de jailbreak de gravidade crítica nos testes.