XAI de Elon Musk usou pornografia infantil para treinar modelos Grok, diz processo
xAI agora foi acusado de treinar Grok em materiais de abuso sexual infantil (CSAM), enquanto reguladores e tribunais continuam investigando até onde vai o problema, e alguns usuários de Grok foram presos.
Numa queixa apresentada na quarta-feira, uma requerente conhecida como Jane Doe explicou que ela estava em idade pré-escolar no início dos anos 2000 quando homens adultos a violaram repetidamente para criar CSAM para vender a pedófilos online. Desde então, as imagens de Doe foram compartilhadas por grupos como o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) e o Centro Canadense de Proteção à Criança (CCCP).
Para sua segurança, Doe optou por receber alertas do Sistema de Notificação de Vítimas do Departamento de Justiça dos EUA sempre que ela for vítima de uma nova investigação criminal. Embora tenha recebido inúmeros alertas, ela ficou chocada quando o CCCP a notificou de que havia identificado CSAM gerado por IA no xAI que a representava. Isso traumatizou novamente Doe, cuja reclamação alegou que mensagens foram encontradas em fóruns on-line “entre infratores conversando sobre a criação de CSAM gerado por IA do Requerente e outras vítimas de CSAM conhecidas e legadas em situação semelhante”.
Leia o artigo completo
Comentários
