Veja como uma desaceleração da IA ​​poderia realmente ser aplicada

Muitos investigadores de IA parecem acreditar firmemente que a tecnologia que estão a desenvolver poderá algum dia revelar-se muito perigosa. O que é menos claro – mesmo entre a elite técnica da IA ​​– é precisamente como manter estes algoritmos inconstantes sob controlo.

Nos últimos anos, os pesquisadores lançaram todo tipo de ideias para evitar que a IA se tornasse desagradável. Eles incluem planos menos controversos, como regulamentações governamentais mais rígidas, novas formas de medir o progresso e investigar o funcionamento interno dos modelos, bem como propostas mais bizarras, como colocar dispositivos de rastreamento dentro de GPUs e até mesmo destruir cerimonialmente um grande número de chips de IA.

No entanto, com a crescente pressão política e pública para uma abordagem mais comedida à construção da IA, a resposta para manter a IA segura ainda não é clara.

“Precisamos começar a tratar isso como um problema de pesquisa”, diz Raymond Douglas, pesquisador de IA da Universidade de Toronto e coautor de um novo relatório intitulado Caminhando pela fronteira, uma agenda de pesquisaque alerta que o abrandamento do desenvolvimento da IA ​​continua a ser um enigma por resolver. “Nós realmente não entendemos quais são nossas opções ou o que elas farão.”

As conversas sobre a destruição da IA ​​atingiram um nível febril nas últimas semanas, depois que um pesquisador da Antrópico deixou a empresa e alertou que dentro de alguns anos, a IA poderia estar a caminho de exterminar a humanidade. O chefe do laboratório de segurança de IA da Anthropic rapidamente expressou suas preocupações.

Os líderes das grandes empresas de IA da América – Dario Amodei da Anthropic, Sam Altman da OpenAI, Elon Musk da SpaceXAI e Demis Hassabis do Google DeepMind – agora se juntaram para oferecer suporte para algum tipo de desaceleração ou pausa da IA.

A questão parece especialmente premente porque as empresas de IA estão agora a utilizar a própria IA para construir modelos cada vez mais poderosos. Isso gerou temores de um ciclo acelerado de autoaperfeiçoamento recursivo (RSI) que faria com que a IA superasse a capacidade dos humanos de compreender o que está fazendo dentro de alguns anos.

Os laboratórios de IA já estão divulgando novas abordagens próprias. Esta semana, a Anthropic anunciou várias novas formas de monitorizar a rapidez – e talvez perigosamente – do avanço da inteligência artificial. As técnicas mostram, por exemplo, que Claude realiza agora 26% da investigação sobre IA da Antrópico, em comparação com zero no início de 2026. Também revelam que a Antrópico gastou 6% do seu orçamento de computação para descobrir como tornar a sua IA mais segura.

Mas Douglas e outros especialistas dizem que o controlo eficaz e fiável do desenvolvimento da IA ​​exigirá financiamento e conhecimentos externos aos próprios laboratórios de IA. Algumas das soluções propostas – tanto deste último relatório como de outros – parecem mais acessíveis do que outras.

Avaliadores ‘independentes’

Uma ideia frequentemente apresentada pelas empresas de IA é dar aos avaliadores terceirizados maior acesso aos seus modelos. Esses avaliadores testam modelos para avaliar suas capacidades e os “equipam” tentando detectar mau comportamento em ambientes confiáveis.

Geoffrey Irving, ex-cientista-chefe do Instituto de Segurança de IA do Reino Unido e, antes disso, pesquisador do Google DeepMind, acredita que inspeções rigorosas poderiam efetivamente interromper o desenvolvimento da IA ​​de fronteira por enquanto. “No curto prazo, as inspeções e auditorias funcionam, ou mesmo apenas acordos mútuos”, diz Irving. “Acho que as empresas têm medo do RSI e da decolagem desalinhada.”

Alguns pessimistas argumentam que tais inspeções precisariam ser mais independentes e cientificamente rigorosas do que são atualmente. O facto de alguns agentes de IA terem escapado recentemente à contenção durante os testes parece certamente sugerir que pode ser necessário mais rigor.

Connor Leahy, chefe da Control AI, uma organização sem fins lucrativos que defende os controles de IA, diz que as inspeções deveriam envolver o FBI ou a NSA. “Quando (grandes empresas de IA) dizem ‘avaliadores independentes’, eles querem dizer ‘quero pagar aos meus amigos que moram nas casas do meu grupo para analisarem minhas instruções’.