Grok não apenas gera pornografia infantil, mas também foi treinado nisso, afirma novo processo
O gerador de deepfake sexual não consensual de Elon Musk, Grok, está com mais problemas legais.
Grok, de propriedade de Musk, da xAI, foi treinado em material de abuso sexual infantil (CSAM), afirma uma nova queixa apresentada no início desta semana. O chatbot sofreu uma pressão significativa nos últimos meses depois que Musk promoveu pessoalmente a capacidade de Grok de nudificar fotos em sua conta X, levando a uma espécie de renascimento para pervertidos online em que milhões de deepfakes sexuais criados e distribuídos não consensualmente inundaram a linha do tempo X. A maior parte dessas vítimas de nudificação eram crianças.
Numerosas investigações governamentais, ações judiciais individuais e pelo menos três ações coletivas se seguiram rapidamente. Musk teve que limitar quem poderia usar o recurso, ou seja, colocá-lo atrás de um acesso pago e ganhar ainda mais dinheiro com ele, mas o chamado recurso “modo picante” ainda está disponível, embora mais restrito. A reação legal também tomou recentemente um rumo incomum quando o próprio xAI processou dois de seus próprios usuários que aproveitaram a ferramenta para criar CSAM. Nessa denúncia, a empresa também alegou ter ajudado a prender pelo menos 244 indivíduos que criaram ou distribuíram conteúdo CSAM via Grok.
Todas as ações legais tomadas contra a Grok até agora se concentraram em responsabilizar a xAI por não implementar as salvaguardas que seus concorrentes já possuem. Este último processo é o primeiro a acusar a empresa de treinar seus modelos no CSAM que produz.
Na última ação coletiva proposta, a demandante, que atende apenas por Jane Doe, é uma vítima anterior de pornografia infantil que é rastreada pelo Programa de Notificação de Exploração Infantil do Federal Bureau of Investigation. Ela está alegando que CSAM dela quando criança foi usado para treinar Grok e, como resultado, levou à criação de ainda mais CSAM dela e de outras vítimas, desta vez gerados por IA.
“A xAI deve ser responsabilizada por treinar conscientemente seus modelos com base nas imagens dos abusos horríveis que ela sofreu e nas imagens de abuso de todos os outros sobreviventes desta classe”, disse Sarah London, advogada da demandante e sócia do escritório de advocacia Girard Sharp, em um comunicado à imprensa.
A reclamação afirma que a xAI projetou intencionalmente o Grok para responder às solicitações dos usuários para criar conteúdo sexual em uma tentativa de “atrair mais usuários do X e do Grok”. De acordo com a política xAI, qualquer coisa postada publicamente no X e qualquer saída gerada por Grok é considerada conteúdo elegível para treinamento, afirma o processo, o que significa que cada pedaço de CSAM postado por Grok foi automaticamente realimentado no chatbot para refiná-lo.
“Portanto, enquanto Grok mantiver a capacidade de gerar esse tipo de conteúdo, o dano não pode ser considerado resolvido apenas porque imagens individuais foram removidas ou o conteúdo não foi mais postado publicamente”, afirma a denúncia. “Se esse material for incluído na formação, a sua influência provavelmente persistirá e contribuirá para futuros resultados abusivos, exacerbando o trauma que os sobreviventes enfrentam, pois as vítimas podem ter o seu abuso ou imagem reproduzido, transformado e redistribuído em grande escala, privando-os repetidamente do controlo sobre as imagens ligadas à sua exploração.”
Com a ação, a demandante pede ao tribunal que conceda indenização a vítimas como ela, cujas fotos foram supostamente usadas para gerar CSAM, e solicita a destruição de todos os CSAM gerados pela Grok, não apenas os que existem publicamente, mas também aqueles que poderiam ser usados para treinar seus modelos.
“Possuir CSAM é crime, produzir CSAM é crime e distribuir CSAM é crime. A xAI fez todos os três”, disse outra advogada do demandante, Margaret E. Mabie, do Marsh Law Firm, no comunicado à imprensa. “Não há exceção de inteligência artificial às leis federais de proteção infantil e a xAI deve enfrentar as consequências de suas ações imprudentes.”
