OpenAI e Anthropic enfrentam nova supervisão conforme a lei de segurança de IA de Nova York entra em vigor

Nova York está se preparando para aplicar uma das leis de segurança de IA mais importantes do país. O estado abriu um portal de registro na terça-feira, no qual grandes desenvolvedores de IA de fronteira, como Anthropic e OpenAI, serão obrigados a se registrar até 1º de janeiro de 2027.

A Lei RAISE, o projeto de lei de segurança e transparência de Nova York, entra em vigor no início do ano. Ela exige que os grandes desenvolvedores fronteiriços – empresas com mais de US$ 500 milhões em receitas anuais – publiquem estruturas de segurança em seus sites, relatem incidentes críticos de segurança dentro de 72 horas e emitam relatórios de transparência de modelos públicos.

O recém-formado Escritório de Inovação Digital, Governança, Integridade e Confiança (DIGIT) implementará a Lei RAISE e supervisionará grandes laboratórios de IA de fronteira. As penalidades podem chegar a US$ 1 milhão por uma violação e US$ 3 milhões para violações subsequentes.

O estado também pode intentar ações coercivas contra empresas que não se registem no novo portal, embora um porta-voz se tenha recusado a fornecer detalhes.

“Os magnatas da tecnologia dizem-nos que a sua visão para a IA é inevitável”, disse a governadora Kathy Hochul na terça-feira durante uma conferência de imprensa. “Eles nos dizem para embarcar ou ficar para trás… Que qualquer dano colateral vale a pena, desde que ganhemos a corrida para o penhasco da IA.”

Na terça-feira, Hochul também lançou o Centro de Responsabilidade e Pesquisa em IA de Nova York, com sede na Universidade Estadual de Nova York, em Binghamton. O centro avaliará de forma independente a segurança e a operação de sistemas avançados de IA e trabalhará com a DIGIT para revisar as estruturas de segurança das empresas. Hochul anunciou o centro pela primeira vez em janeiro, com US$ 55 milhões em doações e capital.

“Estamos construindo um modelo nacional para uma regulamentação inteligente e sensata da IA, um modelo que coloca as comunidades acima das corporações e as pessoas acima da tecnologia poderosa”, disse Hochul.

A Lei RAISE não é a única lei de segurança aprovada em Nova York. No ano passado, o estado começou a aplicar uma lei que exige que os operadores complementares de IA informem regularmente os usuários que estão conversando com um bot e façam esforços razoáveis ​​para detectar ideação suicida e automutilação.

Em outubro, Hochul assinou uma lei separada de segurança de chatbot para menores, restringindo comportamentos como interações enganosas semelhantes às humanas, respostas emocionalmente manipuladoras ou bajuladoras e incentivo a comportamentos como suicídio ou distúrbios alimentares. Essa lei entra em vigor em 1º de junho de 2027.

Outros estados também aprovaram projetos de lei semelhantes de segurança e transparência de IA à Lei RAISE. O SB 53 da Califórnia, que entrou em vigor em janeiro, determina que os laboratórios fronteiriços de IA tenham em vigor e publiquem estruturas de segurança, promulguem proteções aos denunciantes e relatem incidentes críticos de segurança no prazo de 15 dias. O SB 315 de Illinois, que entrará em vigor no início de 2027, tem requisitos semelhantes, além de incluir auditorias independentes de conformidade de segurança.