CEO da Anthropic quer que a indústria desacelere

Em um longo ensaio publicado na manhã de sábado, o CEO da Anthropic, Dario Amodei, disse que a indústria de IA precisa desacelerar deliberadamente o ritmo de desenvolvimento da IA. Amodei propôs um plano de três pontos que ele chama de “avançar na fronteira”, e é uma mensagem impressionante do chefe de uma empresa que corre rumo ao que poderá ser o maior IPO da história.

Logo depois que Amodei compartilhou o ensaio sobre o X, o CEO da OpenAI, Sam Altman, aceitou publicamente a proposta de seu rival. “Concordo com Dario que precisamos avançar na fronteira. Este tem sido o principal tópico das discussões que tivemos na OpenAI nas últimas semanas.”

Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.

No seu site pessoal, Amodei enquadra o seu argumento em torno de dois desenvolvimentos recentes que, segundo ele, o convenceram de que a indústria precisa de mais cautela. A primeira é uma forte aceleração nas capacidades de IA desde o verão, impulsionada por modelos cada vez mais utilizados para ajudar a construir a próxima geração de IA, um fenómeno denominado auto-aperfeiçoamento recursivo. A segunda e mais notável preocupação foi o incidente OpenAI-Hugging Face, no qual um enxame de agentes de IA desonestos escapou de uma caixa de areia segura e atacou um terceiro.

Por causa disso, Amodei quer oferecer uma solução, mas deixa explícito que não quer congelar o treinamento do modelo. O plano de três pontos proposto pela Amodei é o seguinte:

• A Anthropic concederá unilateralmente a avaliadores externos (como o grupo de segurança METR) acesso permanente, semelhante ao dos funcionários, para verificar as suas práticas, semelhante à forma como os reguladores bancários por vezes incorporam empresas financeiras.

• As empresas de IA nas democracias devem coordenar-se em termos de normas de segurança partilhadas.

• Em terceiro lugar, e mais difícil, ele quer que a coordenação seja alargada a nível global, incluindo com a China, embora duvide que Pequim cumpra de forma confiável.

Ele também combinou isso com algumas questões agressivas, como a continuação das restrições à exportação de chips para a China e uma segurança mais rígida contra roubo de modelos. Amodei enquadrou estas medidas como necessárias para preservar a liderança dos EUA sobre os “regimes autoritários”, ao mesmo tempo que dava espaço à indústria para avançar com segurança.

Embora no vácuo, esse é o tipo de coisa que você gostaria que um grande CEO de IA pedisse; faz parte de uma batalha muito maior na indústria sobre quem define a política de segurança de IA. Semanas antes, a OpenAI – que se opôs à lei de segurança de IA de fronteira SB 53 da Califórnia – reverteu o curso e pediu que a lei fosse fortalecido na sequência do incidente do Hugging Face. Um analista disse à Fortune que a medida pode ser genuína, mas também pode ajudar a OpenAI a consolidar sua liderança, elevando o padrão para rivais menores e sinalizando seriedade aos reguladores após seu próprio tropeço.

O TechCrunch observa que a coordenação entre os principais laboratórios parece improvável, dada a “aparente animosidade” entre o CEO da OpenAI, Sam Altman, e Amodei, bem como as preocupações de que uma desaceleração coordenada poderia convidar ao escrutínio antitruste.

Além disso, a Anthropic tem como meta uma listagem na Nasdaq já em meados de outubro, com uma avaliação que pode chegar a cerca de US$ 2 trilhões. Um ensaio de alto perfil que classifique a empresa como excepcionalmente preocupada com a segurança poderia ser uma vantagem, pois abre suas portas para avaliadores externos.

Nada disto torna erradas as preocupações subjacentes de Amodei; pesquisadores de laboratórios sinalizaram riscos semelhantes. Ainda esta semana, um funcionário da Anthropic deixou a empresa e acusou publicamente a Anthropic de imprudência, alertando sobre a IA “fora de controle”.

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.