Governador da Califórnia quer implementar um kill switch para modelos de IA de fronteira
A ordem executiva de Newsom exige um painel de especialistas para desenvolver novas medidas de segurança de IA.
Com os modelos de IA de grandes empresas recentemente ultrapassando as suas restrições, o governador da Califórnia propôs a criação de um “interruptor de interrupção” como parte de uma solução abrangente. Numa ordem executiva assinada por Gavin Newsom na sexta-feira, a Califórnia reunirá especialistas nacionais para criar novas recomendações para a segurança da IA durante um período de dois meses.
“Vamos acelerar nosso trabalho na supervisão substancial e responsável da IA antes que seja tarde demais”, disse Newsom em comunicado à imprensa. “Faremos isso com cuidado, mas com velocidade urgente; os riscos são altos demais para esperar ou atrasar a ação.”
O painel de especialistas terá a tarefa de enviar recomendações ao escritório de Newsom, que atualizará as leis estaduais em torno da segurança da IA. A ordem executiva do governador detalhou várias inclusões específicas, como a incorporação de “organizações de verificação independentes designadas” em laboratórios de IA para auditorias e avaliações periódicas. O painel de especialistas também terá a tarefa de explorar a exigência de que as empresas de IA apresentem relatórios e avaliações de risco a uma organização terceirizada e divulguem “incidentes de perda de controle”, como o incidente do Hugging Face.
Newsom não está sozinho ao pedir uma revisão externa dos mais recentes modelos de IA de forma contínua. Na semana passada, o CEO da Anthropic, Dario Amodei, propôs um plano de três etapas para desacelerar o desenvolvimento da IA. A proposta da Amodei sugeria que as empresas de IA deveriam concordar com “acesso contínuo e semelhante ao dos funcionários” para avaliadores terceirizados focados em segurança e conformidade.
