Os líderes da IA ​​dizem que querem mais segurança. Eles querem mais do que isso.

À medida que aumenta a ansiedade relativamente à segurança da inteligência artificial, vários líderes que dirigem laboratórios fronteiriços deixaram claro que querem — e precisam — de melhores padrões industriais para conter a tecnologia potencialmente perigosa.

No entanto, como qualquer líder da indústria que espera alcançar as condições mais favoráveis ​​para as suas empresas, executivos de IA como o CEO da Anthropic, Dario Amodei, o CEO da OpenAI, Sam Altman, e o cofundador do Google DeepMind, Demis Hassabis, esperam desempenhar um papel significativo na determinação dos padrões que procuram, dizem os especialistas.

“Acho que o que aconteceu recentemente é que eles aceitaram totalmente o fato de que na verdade não conseguem manter essas coisas seguras”, disse Anthony Aguirre, CEO e presidente do Future of Life Institute ao Mashable. A organização sem fins lucrativos concentra-se na prevenção de riscos extremos em grande escala de tecnologias transformadoras.

No entanto, acrescentou Aguirre, a nova franqueza traz um porém: “Certamente eles querem estar no controle do processo”.

O que isso poderia significar para as principais empresas de IA é a auto-regulação, juntamente com a transparência e a responsabilização nos seus termos, além de garantias sobre a legislação antitrust.

Empresas de IA querem inteligência artificial geral

Aguirre disse que, apesar de reconhecerem as perigosas preocupações de segurança emergentes, as principais empresas de IA ainda não abandonarão o seu objectivo de alcançar a inteligência artificial geral, ou AGI.

Esta forma de IA igualaria ou excederia a inteligência humana e poderia levar à substituição de muitos empregos humanos por empregos automatizados, juntamente com o aumento dos decisores de IA ultrapassando a liderança humana, explicou Aguirre.

“Eles querem ter um futuro controlado por máquinas”, disse Aguirre. “Isso não é algo que a maioria das pessoas deseja.”

Os apelos para avançar na fronteira, como Amodei descreveu recentemente num ensaio pessoal sobre os riscos de segurança da IA, não envolvem uma pausa na busca pela AGI.

Aguirre acredita que isso é um erro. Em vez disso, ele disse que as empresas de IA deveriam “mudar totalmente a direção” de tentar criar AGI, embora ele perceba que provavelmente se recusarão a fazê-lo.

O que as empresas de IA querem em troca de padrões de segurança

Autorregulação

Pete Furlong, gerente sênior de política e pesquisa do Center for Humane Technology, disse ao Mashable que a indústria vem pressionando pela autorregulação há algum tempo.

“Nós os vimos falar sobre a necessidade de regulamentação em certos aspectos, mas não acho que suas ações sempre apoiem isso necessariamente”, disse ele ao Mashable. Furlong acrescentou que as principais empresas querem proteger o seu “estatuto de líderes da indústria” e podem procurar formas de operar num “sistema de portas fechadas” sem muita contribuição pública sobre riscos e soluções.

Em uma postagem de julho do Substack sobre segurança, Hassabis do Google sugeriu que os EUA criassem um órgão de padrões modelado nas parcerias público-privadas ou organizações autorreguladoras existentes supervisionadas pelo governo federal. Usando a Autoridade Reguladora da Indústria Financeira como exemplo, Hassabis disse que o órgão de padronização lideraria o desenvolvimento de protocolos de avaliação de modelos e colaboraria com agências federais especificamente em testes de segurança nacional.

Em seu ensaio, Amodei escreveu que a Anthropic apoiou “regulamentação sensata e direcionada da IA”, particularmente em matéria de transparência e auditoria de terceiros. Reconhecendo o longo processo de aprovação de leis, Amodei também apoiou um esforço voluntário em nome das empresas de IA para estabelecer padrões posteriormente verificados por avaliadores terceirizados “incorporados”. Ele comprometeu unilateralmente a Anthropic a confiar nesses avaliadores em seu trabalho de segurança.

Ainda assim, os especialistas alertaram contra a aceitação desta medida de segurança pelo seu valor nominal.

“Embora o apoio dos desenvolvedores de IA à avaliação independente seja um verdadeiro passo em frente, serão necessários mecanismos adicionais para uma responsabilização eficaz”, disse Matt O’Shaughnessy, tecnólogo sênior do Laboratório de Governança de IA do Centro para Democracia e Tecnologia, ao Mashable. Ele acrescentou que seria um “negativo líquido para a responsabilização” se a supervisão da IA ​​se limitasse a avaliações independentes.

Transparência e responsabilidade limitadas

Furlong deu crédito à Anthropic por lançar recentemente um relatório de segurança abrangente sobre riscos habilitados por IA, como armas biológicas e vigilância em massa. Ele também disse que era “louvável” que a OpenAI tivesse pesquisadores independentes investigando o incidente do Hugging Face, durante o qual um agente da OpenAI invadiu outra empresa. No entanto, a OpenAI também impôs “restrições significativas” a essa investigação, incluindo limites de tempo, disse Furlong.

Embora estes sejam passos razoáveis ​​em direção à transparência, Furlong acredita que é justo esperar mais.

“Não pode caber inteiramente a essas empresas ditar os termos de sua transparência”, disse ele.

Embora a OpenAI e a Anthropic tenham apoiado a transparência por escrito, Aguirre disse que as ações das empresas de IA nem sempre estão alinhadas com a sua posição pública.

“Acho que há uma grande lacuna entre o que eles dizem e o que seus grupos de lobby fazem a portas fechadas”, disse Aguirre.

As principais empresas de IA também lutaram contra tentativas de responsabilizá-las pelos piores cenários, como quando um usuário consulta seu chatbot sobre cometer um tiroteio em massa, recebe dele aconselhamento médico com risco de vida ou confidencia a ele sobre se sentir suicida e recebe conselhos sobre como tirar a própria vida.

“Há muitas preocupações potenciais em torno das empresas que tentam contornar qualquer tipo de responsabilidade significativa”, disse Furlong.

Garantia sobre a lei antitruste

À medida que as principais empresas de IA se reúnem para discutir problemas e soluções de segurança, também expressam preocupação de que isso possa expô-las a ações judiciais antitruste.

Amodei disse no seu recente ensaio que o governo deveria mediar ou permitir discussões sobre o estabelecimento de padrões. Ele acrescentou que o governo precisa emitir uma “isenção restrita” que permita conversas específicas sobre segurança.

Aguirre disse que concorda com as empresas neste caso. Desde que a isenção seja cuidadosamente redigida para ser aplicada a discussões de segurança, e não a atividades coordenadas que congelariam empresas menores de IA, Aguirre acredita que é razoável querer clareza sobre as leis antitruste.

Na verdade, uma ação coletiva movida esta semana pela Trial Lawyers for Justice alega que uma desaceleração coordenada pela Anthropic, OpenAI, Google e SpaceXAI violou a lei antitruste.

A principal lição

Aguirre acredita que, embora muitos líderes da IA ​​estejam legitimamente preocupados com a segurança, as suas propostas não oferecem uma visão radicalmente diferente do que vem a seguir.

“Essas empresas estão construindo algo que sabem que não podem manter seguro ou sob controle, e estão fazendo isso sem qualquer supervisão ou regulamentação normal que aplicamos a todos os outros setores potencialmente inseguros”, disse Aguirre. “Eles estão nos pedindo para deixá-los fazer a mesma coisa, mas apenas ajudá-los um pouco para fazer isso com um pouco mais de segurança.”

Reportagem adicional de Chase DiBenedetto.

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.