O governador de Nova York, Hochul, assina uma importante lei de segurança para chatbots

A governadora de Nova York, Kathy Hochul, sancionou na quarta-feira um importante projeto de lei de segurança que proíbe efetivamente os chatbots de inteligência artificial de oferecer uma variedade de recursos padrão para usuários menores de 18 anos.

Entre os comportamentos bloqueados estão fingir ser uma pessoa real ou sentir emoções humanas; oferecer respostas “agradáveis” ou lisonjeiras; e fazer perguntas emocionais espontâneas ou referir-se a informações privadas de saúde de uma criança em conversas anteriores.

A lei também aborda recursos que são particularmente perigosos para usuários jovens.

Assim que o projeto de lei entrar em vigor, os menores não poderão conversar com chatbots que promovam ou dêem conselhos relacionados ao uso de drogas ou álcool, distúrbios alimentares, automutilação ou suicídio. Os chatbots também serão proibidos de encorajar crianças a guardar segredos, bem como de discutir conteúdo sexualmente explícito ou material de abuso sexual infantil com menores.

“Nenhuma empresa deveria vender chatbots para crianças, incentivando a automutilação ou fingindo ser seus amigos ou algo mais”, disse Hochul em um comunicado à imprensa.

As empresas sujeitas à lei devem verificar a idade do usuário e oferecer mais de um método para fazê-lo, incluindo verificação que não exija apenas identificação governamental.

Entre os principais fornecedores de chatbot, apenas a Anthropic proíbe menores de criar uma conta. Google e OpenAI, que operam Gemini e ChatGPT, respectivamente, permitem que crianças com 13 anos ou mais usem seus chatbots. Crianças menores de 13 anos podem até acessar os aplicativos Gemini. OpenAI também oferece ChatGPT para adolescentes, que pesquisadores independentes disseram recentemente que deveriam ser desativados até que certas questões de segurança sejam resolvidas.

Violações da lei podem resultar em multa civil de até US$ 25.000 para cada instância. O projeto também estabelece um site público onde os nova-iorquinos podem registrar reclamações contra empresas de chatbot por possíveis violações.

Hochul apoiou vários projetos de lei relacionados à segurança digital e de IA, incluindo legislação sobre transparência de IA e companheiros de IA, bem como uma lei que restringe recursos viciantes de mídia social.

A ausência de regulamentações federais sobre IA levou os legisladores de todo o país a desenvolver as suas próprias leis.

Em setembro, o governador da Califórnia, Gavin Newsom, assinou um projeto de lei destinado a impor requisitos de segurança mais rigorosos para empresas de IA. A legislação foi nomeada em homenagem a Adam Raine, um jovem adolescente que morreu por suicídio após consultar o ChatGPT. Os pais de Raine entraram com o primeiro processo por homicídio culposo contra uma empresa de IA por suposto comportamento prejudicial de chatbot.

A Lei de Adam exige que os desenvolvedores de chatbots complementares conduzam e publiquem avaliações anuais de risco de segurança infantil e submetam seus produtos a auditorias independentes. Os desenvolvedores também devem criar processos de resposta a crises para chatbots. Muitas empresas já possuem medidas de segurança em vigor, mas as proteções falharam consistentemente em prevenir totalmente o comportamento do chatbot prejudicial aos adolescentes.

Reportagem adicional de Chase DiBenedetto.