O confronto com a regulamentação da IA ​​ainda não acabou

No início desta semana, quem é quem na IA parecia – pelo menos provisoriamente – do lado da regulamentação da IA. No fim de semana, o CEO da Anthropic, Dario Amodei, propôs um plano de três etapas para desacelerar o desenvolvimento da IA, inclusive incorporando avaliadores terceirizados em laboratórios, coordenando toda a indústria nacional e forjando acordos internacionais potencialmente com assistência governamental. O CEO da OpenAI, Sam Altman, o cofundador do Google DeepMind, Demis Hassabis, e até mesmo o CEO da SpaceX, Elon Musk, pareciam publicamente concordar com aspectos de todas as três coisas.

A Anthropic e a OpenAI já estavam dando dicas de que eles e outros laboratórios estavam trabalhando em algum tipo de estrutura industrial. Parecer pró-regulamentação parecia tanto uma boa jogada de relações públicas quanto, potencialmente, uma forma de as empresas lidarem com as consequências de incidentes de hackers cada vez mais preocupantes.

Por enquanto, qualquer envolvimento do governo neste processo parece um fracasso. A administração Trump atacou a ideia de uma crise de segurança na IA, chamando-a de “farsa”. O próprio mundo da IA ​​também está dividido. O CEO da Meta, Mark Zuckerberg, rapidamente se manifestou contra a limitação da autonomia das empresas e, no início desta semana, o Jornal de Wall Street relataram que Zuckerberg, Musk e o CEO da Nvidia, Jensen Huang, rejeitaram propostas para um regulador independente financiado pela indústria para a indústria de IA – semelhante à Autoridade Reguladora da Indústria Financeira (FINRA), um regulador privado sem fins lucrativos em finanças. Mas partes da indústria não estão desistindo da ideia, incluindo a OpenAI.

“As pessoas querem saber que a IA está sendo desenvolvida com segurança”, disse Chris Lehane, chefe de assuntos globais da OpenAI. A beira. “Isso começa com as medidas que empresas como a nossa tomam por conta própria, mas o governo também tem um papel importante. A janela política de IA está aberta, com o crescente apoio bipartidário aos padrões de segurança nacionais obrigatórios para IA de fronteira. O Congresso deve transformar esse impulso em uma estrutura que fortaleça a segurança, apoie a inovação americana e mantenha os EUA na liderança em IA.”

Um capitalista de risco de IA, que solicitou anonimato devido aos seus investimentos atuais, concordou que a regulamentação era necessária. “Você vê esses momentos em todas as tecnologias, seja na eletricidade, nos carros ou nos aviões, onde, em algum momento, a indústria teve que se unir para encontrar uma maneira de dizer: ‘Como podemos abraçar coletivamente o que significa segurança?’ Os carros não eram seguros, os aviões eram inseguros, e então tivemos que criar padrões de segurança que todos adotassem e que na verdade tornaram a tecnologia mais difundida. Mas os primeiros dias são sempre um pouco selvagens e indisciplinados, e é assim que a tecnologia se desenvolve.”

A Anthropic se recusou a comentar, mas Amodei escreveu em seu ensaio que a empresa “sempre… defendeu uma regulamentação bem considerada da IA, mesmo quando isso nos leva a ser acusados ​​de exagero, ‘doomerismo’ ou captura regulatória”.

Outras empresas permaneceram caladas. Safe Superintelligence Inc., SpaceX e Google não responderam a um pedido de comentário. O Thinking Machines Lab não quis comentar. E Meta apontou para uma postagem X de Zuckerberg, na qual ele se distanciou dos apelos por desaceleração e regulamentação, escrevendo: “Cada laboratório tem a responsabilidade e o incentivo para se mover no ritmo necessário para treinar seus modelos com segurança, e a capacidade de tomar suas próprias ações para garantir que isso aconteça”.

A linha de pensamento de Zuckerberg parece estar em voga com Trump neste momento. O presidente ganhou as manchetes na semana passada por chamar de “farsa” os temores recentes sobre os riscos da IA. Ele ligou para Huang enquanto este estava no palco em uma conferência e disse à multidão pelo viva-voz que “os robôs não assumirão o controle”. Nesse mesmo dia, ele também postou nas redes sociais que “o único controle ou ‘proteção’ que a IA precisa é de um PRESIDENTE FORTE E INTELIGENTE (QI alto!) E os EUA têm isso, de sobra!” Ele acrescentou que a administração Trump já “impediu que ‘pessoas’ de IA fizessem ‘coisas’ ruins, ou potencialmente ruins”, usando seu “tremendo poder CRIMINAL e REGULATÓRIO existente sobre essas empresas!” Ele denunciou uma “conspiração DOENTE” acontecendo contra a IA e os data centers e que quem ganha a IA vence no geral. “Teóricos da conspiração, traidores, traidores e vazadores, CUIDADO!” ele escreveu.

Para Nick Reese, professor adjunto da Universidade de Nova Iorque e ex-diretor de política tecnológica emergente do Departamento de Segurança Interna, as actuais declarações anti-regulamentação de Trump sobre IA são confusas porque ele trabalhou com a primeira administração Trump para desenvolver a Ordem Executiva 13960 – que Trump assinou e não foi revogada. A ordem estava centrada na criação de um conjunto de princípios para o uso federal de IA que protegeria “a privacidade, os direitos civis (e) as liberdades civis”.

“Há seis anos, a administração Trump assinou uma ação executiva sobre a segurança da IA, portanto há uma mudança real na posição do presidente sobre o tema”, disse Reese. “A segurança da IA ​​exige mais do que as habilidades intelectuais de uma autoridade eleita.”

Como disse o blogueiro da indústria de IA Zvi Mowshowitz, Trump não é necessariamente totalmente anti-regulamentação – afinal, foi ele quem impôs algumas restrições aos laboratórios de fronteira, como testes de pré-lançamento pelo governo. Mas ele é motivado mais, nas palavras de Mowshowitz, por “vibrações” do que por políticas consistentes. “Trump ainda não está acreditando nessa coisa de ‘risco existencial’, que são ‘forças negativas’”, escreveu Mowshowitz. Portanto, as proteções governamentais não estão exatamente descartadas, mas podem ter pouca semelhança com o que a OpenAI ou a Antrópica desejam – muito menos com os planos de defensores independentes e menos poderosos da segurança da IA.

No geral, as posições da administração sobre a regulamentação da IA ​​têm sido “instáveis ​​e inconsistentes”, disse Reese. “O resultado disso é que agora estamos enquadrando a segurança da IA ​​neste cenário apocalíptico em que os robôs estão vindo nos pegar. Mas enquadrá-lo como ‘os robôs estão vindo nos pegar’ realmente distorce qual é realmente o problema central. O problema central é que temos IA que não é física ou incorporada em um robô que está prejudicando os humanos agora.”

Trump escreveu em seu post no Truth Social que a administração atualmente tem poder tanto criminal quanto regulatório sobre os laboratórios de IA, mas Reese disse que não estamos nem perto de autoridade regulatória suficiente sobre a indústria de IA. À medida que a tecnologia avança e o público em geral continua a recuar – protestos, boicotes e protestos contra o poder concentrado da indústria da IA ​​nas mãos de poucos – os apelos à regulamentação só aumentam e essa pressão pode influenciar a posição actual de Trump.

Reese disse que a oposição à regulamentação se resume a uma ideia “cansada” de que ela é sempre ruim para a inovação. Em vez disso, diz ele, é importante pensar por que alguma coisa é regulamentada.

“Regulamos coisas nas quais não podemos tolerar falhas… como o setor financeiro ou as companhias aéreas”, disse ele. “Construímos sistemas e verificações e mecanismos de garantia de qualidade e de recurso para garantir que essas coisas não prejudicam a vida ou nos prejudicam sistemicamente. Mas de alguma forma estamos isentando a IA disso.”