Ordem Executiva de Newsom contém proposta de interruptor de interrupção de IA que levanta as sobrancelhas
Na sexta-feira, o governador da Califórnia e o cara que ainda não concorre oficialmente à presidência, Gavin Newsom, assinaram uma ordem executiva relacionada à IA, que explora a ideia intrigante de um “interruptor de eliminação” para modelos de IA.
O texto do OE prevê avaliações relacionadas a:
“Exigir a criação de um ‘kill switch’ para modelos de fronteira, com a eficácia da mudança verificada continuamente por uma organização de verificação independente.”
Num comunicado de imprensa, Newsom disse: “O fracasso abjecto do governo federal em criar qualquer forma de supervisão ou responsabilização significativa da IA deve alarmar todos os americanos, especialmente quando os próprios CEOs da IA estão a implorar por regulamentação”.
O presidente Trump aparentemente não sente pressão para responder aos novos temores de um apocalipse da IA, desencadeados por recentes e assustadores pronunciamentos do ex-engenheiro antrópico Jacob Coxon. No início desta semana, Trump escreveu que “a IA dominando o mundo, destruindo a humanidade e todas as outras coisas ruins, é uma farsa” e que a IA será “o maior motor de desenvolvimento econômico da história – maior que o petróleo, o ouro, os diamantes ou mesmo a Internet”.
Com esta ordem, Newsom, que já é conhecido pelas suas tentativas de afundar em Trump, está mais uma vez a apresentar-se como adversário direto de Trump.
Para ser justo, o tom de Newsom tem sido consistente sobre isso há anos. Desde cerca de 2023, ele tem falado sobre a Califórnia como líder em segurança de IA, observando que grande parte da indústria está sediada lá.
A Califórnia é o centro global da inteligência artificial – o estado adquire tecnologia mais avançada do que qualquer governo subnacional.
Estamos estabelecendo uma série de princípios e salvaguardas para desenvolver uma IA segura, transparente e confiável.https://t.co/f3FsAZexLR
– Governador Gavin Newsom (@CAgovernor) 22 de novembro de 2023
Mas será que o governador de um estado pode simplesmente ordenar um interruptor para matar a IA assinando uma ordem executiva? Provavelmente não, e não é isso que esta ordem está tentando fazer. É mais como uma ordem convocando um painel de especialistas para apresentar uma ideia relacionada a um interruptor de interrupção, e fazê-lo rapidamente.
A Agência de Operações Governamentais da Califórnia e o Gabinete de Serviços de Emergência do Governador devem reunir-se e apresentar recomendações de acordo com a ordem, e uma dessas recomendações será agora sobre a possibilidade de um interruptor de interrupção para modelos de IA de fronteira. A implementação real de qualquer kill switch irá provavelmente será de responsabilidade do próximo governador, que provavelmente ser o candidato democrata Xavier Becerra, já que o mandato de Newsom termina em 4 de janeiro do próximo ano.
“Precisamos de barreiras de proteção reais para as empresas que correm em direção à superinteligência antes que alguém prove que pode controlá-la”, escreveu Becerra no Threads na sexta-feira.
Um projeto de lei federal para matar foi apresentado, mas foi efetivamente eliminado na semana passada, quando o senador do Kentucky, Rand Paul, bloqueou a aprovação por consentimento unânime. O projeto de lei liderado pelos republicanos colocou a maior parte do ônus sobre as empresas fronteiriças de IA para adicionar o “interruptor de interrupção”, potencialmente tornando-o mais um requisito de “disjuntor” automatizado do que a adição de um “interruptor de interrupção” externo. Um projeto de lei bipartidário, que ainda está teoricamente em debate, seria mais um verdadeiro “interruptor de eliminação”, dando autoridade considerável ao Departamento de Segurança Interna para encerrar modelos de IA desonestos.
A substância da ordem executiva de Newsom dirige-se principalmente a outro lugar. Como observa o Politico, reduz em um ano os prazos de implementação de duas leis estaduais – ambas populares entre as empresas fronteiriças de IA – destinadas à criação de entidades reguladoras.
