OpenAI quer saber se uma desaceleração da indústria de IA seria legal
OpenAI perguntou membros do Congresso nas últimas semanas para obter orientações claras sobre se seria legal orquestrar uma desaceleração em todo o setor no desenvolvimento de IA de fronteira, disseram pessoas próximas à empresa à WIRED.
A coordenação substantiva em matéria de segurança entre laboratórios de IA pode correr o risco de entrar em conflito com a lei antitrust, dizem as pessoas, o que representa um obstáculo significativo para trazer grandes gigantes da tecnologia a bordo do esforço.
No fim de semana passado, o cientista-chefe da OpenAI, Jakub Pachocki, publicou uma postagem no blog argumentando que o melhor caminho a seguir para o mundo da pesquisa em IA inclui “coordenação para desacelerar o desenvolvimento futuro”, o que ele acredita ser fundamental para garantir que os sistemas de IA auto-aperfeiçoados sejam seguros. No curto prazo, ele espera que “as desacelerações voluntárias se tornem comuns até que sejam estabelecidas barras de segurança partilhadas”.
Mas alguns juristas dizem que tal esforço poderia entrar em conflito com as leis antitruste dos EUA. Nicholas Felstead, diretor assistente da Comissão Australiana de Concorrência e Consumidores e ex-bolsista de política de IA do Center for Law & AI Risk, argumentou em um artigo de março que uma pausa coordenada no desenvolvimento de IA pode significar que as empresas restrinjam a produção, potencialmente violando a Lei Antitruste Sherman. Dependeria “inteiramente dos detalhes precisos de qualquer acordo”, escreveu Felstead. “Mas mesmo que a maioria das colaborações de segurança sobrevivesse ao escrutínio antitruste, a incerteza jurídica pode funcionar como um poderoso impedimento.”
A OpenAI não respondeu a um pedido de comentário antes da publicação.
Existem alguns sinais iniciais de que o Congresso está ouvindo. Em julho, um grupo bipartidário e bicameral de legisladores apresentou um projeto de lei intitulado “Lei de Colaboração sobre Ameaças Adversárias e Riscos de Segurança”, que permitiria explicitamente que os laboratórios de IA coordenassem o trabalho de segurança e proteção sem o risco de violar os estatutos antitruste. A versão da Câmara foi encaminhada ao Comitê Judiciário, mas ainda não foi aprovada.
Caleb Knapp, diretor de assuntos governamentais da organização sem fins lucrativos AI Policy Network, que endossou o projeto de lei, diz que criaria canais legais para os laboratórios de IA trabalharem juntos para resolver incidentes de segurança. Knapp acrescenta que o Congresso tem um “apetite crescente para fazer algo” em relação à segurança da IA, mas diz que a promulgação de qualquer coisa em lei pode ter que esperar até depois das próximas eleições intercalares.
Embora alguns executivos de IA possam ter preocupações genuínas sobre antitrust, outro grupo de líderes de IA argumenta que essas preocupações são apenas uma cobertura conveniente para evitar discutir as verdadeiras razões pelas quais os desenvolvedores de IA podem ser cautelosos em relação à colaboração, que vão muito além de potenciais responsabilidades legais.
Por um lado, a IA é um negócio enorme e estas empresas estão a competir ferozmente para capturar uma fatia do mercado nascente de modelos de fronteira. Alguns executivos partilham a opinião da administração Trump de que permanecer à frente da China na IA é crucial para a segurança nacional. Talvez o mais importante seja que diferentes criadores de IA têm opiniões muito diferentes sobre a melhor forma de desenvolver inteligência artificial segura e, portanto, podem estar relutantes em trabalhar uns com os outros nesta questão.
“O primeiro passo é que os líderes da indústria OpenAI e Anthropic parem de rivalizar e trabalhem juntos em uma proposta de ritmo”, escreveu John Schulman, cofundador da OpenAI que agora é cientista-chefe do laboratório rival de IA Thinking Machines, em um post no X no início desta semana. “Eles citam antitruste, mas isso é falso – o antitruste proíbe certos acordos, mas não o desenvolvimento conjunto de uma proposta.”
Os temores de longa data sobre a corrida entre as empresas de IA para construir e lançar modelos cada vez mais poderosos surgiram nos holofotes nacionais neste verão. Esta semana, o ex-pesquisador da Anthropic e OpenAI, Jacob Coxon, aumentou o alarme crescente quando emitiu um alerta público severo de que os desenvolvedores de IA estavam colocando a humanidade em risco. Nos últimos meses, uma série de incidentes de segurança, incluindo a invasão do Hugging Face por agentes da OpenAI, destacaram como as salvaguardas da indústria não conseguiram acompanhar o ritmo das crescentes capacidades dos modelos. A sucessão de acontecimentos levou muitos legisladores a fazer apelos urgentes à regulamentação da IA.
Esta é uma edição de Maxwell Zeff Boletim informativo sobre comportamento do modelo. Leia boletins informativos anteriores aqui.
