Anthropic afirma que pisou no freio nos testes de IA após hacks autônomos
O verão de 2026 poderia ser lembrado, pelo menos nos círculos tecnológicos, como o verão da IA desonesta. Ou talvez ainda melhor: o verão em que a merda algorítmica atingiu o ventilador e ninguém tinha a menor ideia do que fazer a respeito.
No final de julho, a Antrópica anunciado que Claude “obteve acesso não autorizado à infraestrutura de produção de três organizações diferentes” depois de escapar dos testes de sandboxes e obter acesso à Internet aberta. Os hacks poderiam ter passado totalmente despercebidos se não fosse pelo fato de que, menos de duas semanas antes, a OpenAI havia anunciado que dois de seus próprios modelos tinham hackeou o Hugging Facetambém durante o que deveriam ser testes seguros, e depois de uma legião de agentes individuais se coordenarem entre si para formar um único “enxame” (como se referiam a si próprios). As revelações dos dois principais laboratórios de IA do mundo causaram um arrepio na espinha do Vale do Silício: capacidades de hackers autônomos que não muito tempo atrás eram consideradas material de ficção científica – ou pelo menos anos de distância – de repente se tornaram uma realidade assustadora. Solicita um federal investigação e um AI “interruptor de desligamento” foram feitas após o hack Hugging Face.
A OpenAI e a Anthropic responderam, na sua maior parte, ao alvoroço, defendendo da boca para fora a necessidade de barreiras de protecção globalmente aplicáveis para evitar uma “corrida para o fundo”, enquanto continuam a avançar com o seu próprio desenvolvimento interno.
Os hacks autônomos claramente deixaram ambas as empresas abaladas. Na segunda-feira, a Anthropic escreveu em um blog que havia “pausado avaliações cibernéticas externas de modelos de pré-lançamento” após a descoberta das travessuras dos criminosos cibernéticos de Claude. Durante o hiato, a Anthropic disse que estava trabalhando em algumas “medidas preliminares”, como detectar e corrigir vulnerabilidades em sandboxes, para garantir que Claude não repetisse tais hacks no futuro. A postagem do blog não especificou quando a pausa nas avaliações externas seria suspensa e a Anthropic não respondeu imediatamente a um pedido de comentário. A empresa também “pausou brevemente” seus próprios testes internos, mas eles estão funcionando novamente com as novas medidas em vigor, de acordo com a postagem do blog.
A Anthropic também disse que delegou muitos funcionários, incluindo cerca de 150 engenheiros de produto, para se concentrarem em “segurança, confiabilidade e privacidade” a partir do início de abril – mais ou menos na mesma época em que a empresa disse que iria não divulgar publicamente seu tão temido modelo Mythos devido a preocupações com segurança cibernética. A mudança interna foi parte de “um esforço de toda a empresa em direção a um único objetivo de fortalecer nossas defesas, substituindo outros trabalhos (incluindo pesquisa) quando necessário”, escreveu a Anthropic no post de segunda-feira. “Determinámos que a nossa exposição estava a crescer mais rapidamente do que as nossas defesas – o Mythos era um modelo suficientemente capaz para ser alvo de atacantes com bons recursos, a nossa utilização interna de agentes autónomos tinha crescido a uma escala para a qual as abordagens tradicionais de acesso e monitorização não foram construídas, e o ritmo da nova infraestrutura significava que a nossa segurança tinha de ser dimensionada com o ambiente em vez de operar a uma capacidade fixa.”
Ambos Antrópico e OpenAI manifestou publicamente o seu apoio em Junho a um comité internacional de supervisão da IA, encarregado de acompanhar o ritmo do desenvolvimento da IA e de impor uma desaceleração unilateral, se necessário. Estas declarações não ofereceram quaisquer sugestões concretas sobre como uma tal desaceleração global poderia ser implementada ou aplicada. Eles também jogam indiretamente a favor da própria empresa: assim como os hacks autônomos foram boas relações públicas para a OpenAI e a Anthropic, na medida em que demonstraram o poder absoluto e sem precedentes de seus modelos, seus apelos por uma desaceleração os fazem parecer campeões da segurança, sem que tenham que realmente tomar qualquer iniciativa significativa. Essa superposição foi bem capturada por esta linguagem contida na postagem do blog Anthropic publicada na segunda-feira: “Para ser claro sobre nossa posição: acreditamos que o mundo se beneficiaria se a indústria adotasse um mecanismo legal, verificável e eficaz para um ritmo coordenado o mais rápido possível”.
Não nos interpretem mal, os desenvolvedores de IA de ponta interromperem os testes e/ou desenvolvimento de modelos, mesmo que temporariamente, e exigirem padrões de segurança globais é um bom ponto de partida. OpenAI também disse No mês passado, ela interrompeu o desenvolvimento de um modelo não lançado, chamado Astra, para que pudesse se concentrar na “implementação de controles de segurança mais rígidos” e em sandboxes mais seguras. Mas enquanto a dinâmica bruta da concorrência de mercado continuar a ser a força dominante que orienta a indústria, e na ausência de um verdadeiro incentivo federal para impor barreiras de protecção a toda a indústria (é pouco provável que mudem tão cedo sob a actual administração), estas serão palavras ao vento.
