Legisladores do Reino Unido estão pirando com o verão caótico da IA
Um líder britânico O político instou as Nações Unidas a intervir no “desenvolvimento inseguro da superinteligência” depois que um líder da equipe Antrópica postou: “Nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos!”
Seja “exagero de marketing” ou sinalização de uma ameaça genuína de extinção, “os governos devem intervir”, escreveu o deputado trabalhista Darren Jones numa carta aberta também dirigida ao primeiro-ministro do Reino Unido e à Organização Internacional para a Cooperação e Desenvolvimento Económico.
Jones é o mais recente legislador que luta para encontrar maneiras de proteger o público britânico das ameaças à segurança da IA. Apenas um dia antes, o deputado trabalhista Alex Sobel apresentou um projeto de lei parlamentar propondo proibir o “desenvolvimento, implantação e operação de superinteligência artificial” – sistemas que podem substituir totalmente e superar os humanos em qualquer tarefa. A legislação também daria ao governo poderes para monitorizar e controlar o desenvolvimento da tecnologia em diferentes pontos da cadeia de abastecimento, incluindo a nível dos chips.
“Não estamos sozinhos neste esforço”, disse Sobel ao apresentar o projeto de lei, apontando para a proibição temporária de exportação imposta pelo governo dos EUA aos modelos Fable 5 e Mythos 5 da Anthropic em junho. “Se a administração Trump, que é vista como historicamente contra a regulamentação da IA, puder considerar traçar um limite em modelos que são demasiado poderosos e perigosos, seria estranho para nós não perguntarmos qual deveria ser a nossa resposta”, argumentou.
Deputados de todos os partidos políticos colocaram seus nomes no projeto, incluindo a deputada trabalhista Jess Asato, que está processando o xAI de Elon Musk depois que seu chatbot Grok foi supostamente usado para gerar imagens sexualizadas falsas dela. Os legisladores estão cada vez mais preocupados com a ameaça da IA à segurança nacional, após uma série de incidentes de agentes de IA desonestos nos últimos meses. Querem introduzir barreiras de protecção contra os piores cenários, como estes sistemas que assumem o controlo de infra-estruturas críticas e executam operações de influência sofisticadas.
O hack Hugging Face dos modelos da OpenAI que escapou da contenção em julho “é o motivo pelo qual é ainda mais importante agirmos rapidamente para regular e legislar sobre IA superinteligente”, disse Sobel à WIRED, “porque a IA está se desenvolvendo em ritmo acelerado, e tenho medo de dizer que aqueles que a desenvolvem não sabem exatamente o que há nela”.
Em um movimento incomum, o projeto de lei parlamentar foi elaborado pela organização sem fins lucrativos ControlAI, que é apoiada pelo engenheiro fundador do Skype e ex-diretor investidor da DeepMind, Jaan Tallinn. Foi fundada por Andrea Miotti, que já havia trabalhado na startup de segurança de IA Conjecture, mas disse à WIRED que queria conscientizar o público e os legisladores sobre o “segredo aberto” de que “o desenvolvimento da superinteligência poderia causar a extinção humana”.
O fundador da Conjecture, Connor Leahy, agora lidera o braço americano da ControlAI, que prestou consultoria sobre o projeto de lei de Bernie Sanders e Greg Casar para proibir o desenvolvimento de superinteligência, além de ter informado quase 200 escritórios do Congresso e mais de 20 membros do Senado e da Câmara dos Representantes sobre o risco de extinção da superinteligência.
Sobel apresentará seu projeto de lei na íntegra em novembro. Embora reconheça que é raro o governo do Reino Unido aceitar legislação privada como esta, Sobel espera que isso possa levar o governo a trabalhar com outros países numa proibição internacional.
Sobel já tentou em vão introduzir um “interruptor de eliminação” na Lei de Segurança e Resiliência Cibernética, que permitiria ao governo desligar qualquer centro de dados que hospedasse um agente de IA que representasse uma ameaça. O mecanismo, que também foi proposto pela ControlAI, é semelhante a uma lei defendida por legisladores republicanos e democratas nos EUA. A ministra da IA, Kanishka Narayan, então trabalhando sob o comando do ex-primeiro-ministro Keir Starmer, rejeitou a proposta, apontando que o projeto de lei já permite que os poderes do governo intervenham se redes e sistemas de informação comprometidos causarem um risco à segurança nacional. Isso poderia incluir exigir que uma entidade pare de usar e isole um modelo de IA, observou ele.
