Governador de Nova York assina lei de segurança infantil AI Chatbot

A governadora de Nova York, Kathy Hochul, assinou uma lei que visa proteger as crianças dos danos do chatbot da IA. A legislação exige que as empresas de IA verifiquem a idade dos usuários. Eles precisarão oferecer aos usuários pelo menos um método de verificação que não dependa inteiramente de identidade governamental. As empresas terão que excluir essas “informações de idade” após o uso.

Se o usuário tiver menos de 18 anos ou a empresa ainda não tiver confirmado que a pessoa é adulta, seu chatbot precisará obedecer a certas restrições. Por exemplo, não pode fingir “ser uma pessoa real, estar viva ou ter emoções humanas”. De acordo com um comunicado de imprensa, a legislação também proíbe os chatbots de:

• Reivindicar um relacionamento pessoal, romântico, profissional ou de autoridade com uma criança

• Perguntas emocionais não solicitadas e uso de informações pessoais ou de saúde privadas de uma criança de conversas anteriores

• Promover ou ajudar com suicídio, automutilação, distúrbios alimentares ou uso de drogas e álcool

• Incentivar as crianças a guardar segredos, isolar-se ou evitar pedir ajuda aos pais, adultos de confiança ou profissionais

• Qualquer conteúdo sexualmente explícito ou material de abuso sexual infantil

Haverá um site através do qual o público poderá registrar reclamações ao procurador-geral de Nova York. As empresas que infringem a lei podem estar sujeitas a penalidades civis de até US$ 25.000 por violação, bem como danos, restituições e outras formas de reparação. Eles também podem ter que excluir quaisquer dados coletados ilegalmente, juntamente com modelos treinados com base nessas informações. A lei entrará em vigor em seis meses.

“Sob esta nova lei patrocinada pelo senador Gonzalez e pelo deputado Bores, os menores não terão mais acesso a chatbots que fingem ser seus amigos, namorados e namoradas”, disse Hochul em conferência de imprensa. “Os chatbots não poderão mais manter informações confidenciais sobre a saúde física e emocional de um menor. Os chatbots não desencorajarão mais as crianças de procurar ajuda de profissionais licenciados. E não sei por que temos que aprovar uma lei contra algo tão óbvio, mas os menores não terão mais acesso a chatbots que podem de alguma forma encorajar pensamentos suicidas. Agora, esta lei se baseia em nossa inovadora Lei Segura para Crianças, que enviou uma mensagem alta e clara às empresas de tecnologia: não permitiremos que você monetize a vida de nossos filhos. saúde mental.”

“Nova York acabou de fazer história ao sancionar o projeto de lei de segurança de IA para crianças mais forte do país”, disse Jim Steyer, fundador e CEO da Common Sense Media, em um comunicado. “As empresas de IA oferecem chatbots com recursos que são perigosos e até mortais para crianças e adolescentes. Isso não é inovação; é uma ameaça imprudente para nossas crianças. Agora, esses recursos prejudiciais serão proibidos em Nova York.”

Steyer acrescentou que a legislação é um modelo para o resto dos EUA. No início deste mês, oito estados entraram com ações judiciais separadas contra a OpenAI, acusando a empresa de colocar crianças em perigo.

Em setembro, a cidade de Nova York proibiu as escolas públicas de permitir que crianças do 2º ao 8º ano acessassem ferramentas generativas de IA em sala de aula. Existem algumas exceções, inclusive para aqueles que necessitam de tecnologia assistiva. Durante a proibição de um ano, a cidade realizará estudos sobre o impacto da tecnologia nas crianças.

Hochul também assinou uma legislação que exigirá babás eletrônicas com conexão à Internet vendidas no estado para evitar que usuários não autorizados vejam ou ouçam qualquer atividade capturada pelos dispositivos. Esses monitores para bebês também precisarão ter etiquetas de advertência que lembrem aos usuários por que é importante usar recursos de segurança e destaquem os riscos de conexões não seguras. A lei entra em vigor em 90 dias.