Governador da CA assina leis ‘marco’ sobre o uso de mídias sociais e chatbots de IA por jovens
Destinam-se a proteger os menores, mas as regras não são universalmente apoiadas.
O governador da Califórnia, Gavin Newsom, assinou várias medidas destinadas a proteger a juventude do estado. Essas novas leis incluem restrições para recursos de mídia social potencialmente viciantes e limitações sobre como os usuários jovens podem interagir com chatbots de IA.
O estado está decretando restrições sobre como os adolescentes podem interagir com chatbots de empresas de IA, incluindo limites de tempo. Os fabricantes de chatbots serão obrigados a implementar recursos de saúde mental, protocolos de segurança no caso de um menor discutir automutilação e notificações para os pais se uma criança desligar as configurações de segurança. A Califórnia agora exigirá “auditorias independentes de segurança infantil e avaliações anuais de risco” por parte das empresas de IA. As empresas de IA poderão enfrentar responsabilidade legal ao abrigo destas regras se não cumprirem as novas regras. Os desenvolvimentos de hoje seguem medidas assinadas ontem por Newsom que criaram estruturas mais amplas para auditar empresas de IA para conformidade com a lei da Califórnia.
Uma das medidas mais polêmicas aprovadas por Newsom centra-se no uso das mídias sociais por adolescentes. O estado agora proíbe as empresas de mídia social de permitir que usuários menores de 16 anos acessem “recursos potencialmente viciantes”. A definição de “viciante” do projeto de lei inclui recursos abrangentes, desde vídeos de reprodução automática até notificações e feeds de conteúdo personalizados baseados em algoritmos.
Críticos como a Electronic Frontier Foundation chamaram esta medida de proibição funcional das redes sociais para adolescentes. “Negar o acesso de menores a fóruns digitais – ou retirar as ferramentas básicas necessárias para navegar neles – não vai ajudar a tornar os jovens mais seguros ou saudáveis na era da IA”, disse a Diretora Associada de Assuntos de Estado da EFF, Rindala Alajaji. A organização acrescentou que a aplicação desta política também forçaria todos os utilizadores das redes sociais a divulgar mais informações pessoais para provar a sua idade, criando riscos adicionais de privacidade. Este é um dos argumentos que muitos partidos usam há muito tempo contra outras leis de verificação de idade.
Newsom assinou medidas adicionais com objetivos semelhantes de proteger os jovens de aplicações tecnológicas potencialmente arriscadas. Isso inclui uma definição ampliada de exploração sexual infantil para incluir imagens generativas feitas por IA ou alteradas digitalmente. Outro projeto de lei oferece novas proteções contra publicidade direcionada e regulamenta o uso de dados sobre alunos do ensino fundamental e médio pelos sistemas de IA.
