Gavin Newsom está pressionando por um interruptor de eliminação de IA

O governador da Califórnia, Gavin Newsom (D), está posicionando o estado para assumir a liderança na supervisão da IA, incluindo o potencial para impor um “interruptor de eliminação” para modelos de fronteira, com uma nova ordem executiva emitida na sexta-feira.

A ordem de Newsom orienta o estado a reunir um grupo de especialistas que apresentará recomendações dentro de dois meses sobre como fortalecer as medidas de segurança de IA na legislação estadual. Newsom quer que o grupo considere como o estado poderia exigir que as empresas de IA incorporem grupos de verificação independentes no local para auditorias regulares, submetam seus relatórios de transparência e avaliações de risco aos padrões de auditores independentes, criem um “interruptor de interrupção” que seja rotineiramente verificado como eficaz, e certifique-se de que as empresas sejam obrigadas a relatar “incidentes de perda de controle”, como o ataque da OpenAI ao Hugging Face, como incidentes críticos de segurança. Também orienta uma agência estatal a acelerar a implementação de duas leis recentes que assinou, criando uma estrutura para verificadores independentes para avaliar a segurança da IA, e um registo estatal de auditores de IA.

Tem havido uma enxurrada de discussões de projetos de lei no Congresso após a postagem do ex-pesquisador Antrópico Jacob Coxon alertando sobre uma chance de mais de 10 por cento de que a IA “poderia matar todos os humanos” dentro de uma década. Mas há pouca esperança em Washington de que uma proposta de lei possa ser aprovada tão cedo, dado que a Câmara está em recesso até Novembro, e as iminentes eleições intercalares tornam igualmente improvável um grande movimento legislativo no Senado. Ao mesmo tempo, o presidente Donald Trump insistiu: “O único controle ou ‘proteção’ que a IA precisa é de um PRESIDENTE FORTE E INTELIGENTE (QI alto!) E os EUA têm isso, de sobra!”

A ordem executiva de Newsom provavelmente não será a última que ouviremos da Califórnia sobre esse assunto. Na quarta-feira, ele sugeriu a possibilidade de convocar legisladores da Califórnia para uma sessão legislativa especial sobre IA em uma entrevista com Políticojuntamente com uma potencial ação executiva. Ele está a posicionar especificamente a ordem como um modelo para a acção federal, apelando ao Congresso e a Trump “para reverem e adoptarem o quadro do estado, ou usarem a sua regulamentação líder nacional como um piso, e não um tecto, para o benefício e segurança de todos os americanos”.

“O fracasso abjeto do governo federal em criar qualquer forma significativa de supervisão ou responsabilização da IA ​​deveria alarmar todos os americanos, especialmente quando os próprios CEOs da IA ​​estão implorando por regulamentação”, disse Newsom em um comunicado. “Não estamos esperando para agir – vamos acelerar nosso trabalho na supervisão substancial e responsável da IA ​​antes que seja tarde demais. Faremos isso com atenção, mas com velocidade urgente; os riscos são altos demais para esperar ou atrasar a ação.”