xAI perde batalha legal contra a lei de nudificação de Minnesota, a guerra continua

A luta legal da xAI contra uma lei de Minnesota que proíbe deepfakes sexuais vai se arrastar por um tempo, embora tenha sofrido um segundo revés na semana passada.

O juiz distrital dos EUA, Donovan Frank, inicialmente negou uma moção da xAI apresentada no final de julho que teria impedido Minnesota de aplicar a proibição, anulando efetivamente a lei. Com a lei em vigor, Frank negou agora uma segunda moção, deixando bastante claro que as liminares baseadas nas alegações da xAI de que está a ser irreparavelmente prejudicada por esta lei não serão suficientes – mas que o caso aparentemente tem mérito suficiente para continuar.

A própria lei proíbe aplicativos de nudificação, penalizando os provedores de serviços – aplicativos e plataformas online. Ele cobra multas de até US$ 500.000 cada vez que um deepfake é acessado, o que pode resultar em custos legais devastadores no caso de uma imagem ou vídeo viral. Deve-se também notar que as especificidades do padrão de nudez na lei de Minnesota são mais amplas do que, digamos, o que não pode ser exibido na TV aberta, e inclui a “área genital primária, virilha, parte interna da coxa, nádegas ou peito de um ser humano”.

O processo xAI afirma que a lei é uma restrição inconstitucional à liberdade de expressão, e não apenas prejudicial ao xAI. Alega que as violações ocorrerão sem intenção de causar danos. Como a definição de nudez é tão ampla, a xAI afirma que gerações de IA de homens sem camisa, gerações de IA inofensivas em trajes de banho e imagens satíricas contam como deepfakes. Por exemplo, afirma que uma imagem gerada por IA que fornece do governador de Illinois, JD Pritzker, e do ex-governador de Nova Jersey, Chris Christie, como lutadores de sumô, pode ser considerada uma violação.

Na sua decisão de 4 de setembro, Frank escreveu “porque a xAI não demonstrou danos irreparáveis ​​e o equilíbrio dos danos pende acentuadamente a favor do Estado, o pedido de liminar da xAI é negado”. Mas o texto da decisão sugere um longo caminho a percorrer para o esforço jurídico mais amplo:

As questões constitucionais levantadas pelas partes são complexas, especialmente quando consideradas no contexto desta nova tecnologia e dos riscos que ela representa para o público. Estas questões merecem e receberão plena consideração. Com certeza, uma determinação das reivindicações constitucionais da xAI será feita num futuro próximo porque o Estado apresentou uma moção para rejeitar que coloca estas questões em primeiro plano. No futuro, o Tribunal também poderá considerar se xAI tem direito a uma medida cautelar permanente sobre o mérito.

Durante a onda de deepfake Grok de dezembro e janeiro passados, a notável conta amiga de Musk @cb_doge defendeu Grok, dizendo que as críticas eram “como culpar uma caneta por escrever algo ruim”. Musk respondeu pessoalmente a essa postagem dizendo: “Qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.

E, de fato, a xAI, também conhecida como SpaceXAI, tomou medidas dramáticas para punir pelo menos um usuário. Em julho, a xAI processou um indivíduo na Carolina do Sul que havia sido preso por suposto abuso sexual de menores. O processo alega que as “ações dessa pessoa foram um esquema calculado para transformar a ferramenta do Requerente em uma arma para fins criminosos, expondo vítimas reais a danos profundos e duradouros, ao mesmo tempo em que expõe o Requerente a riscos legais significativos e danos à reputação”.

O processo também afirma que a xAI tem agido discretamente como uma espécie de vigilante anti-exploração infantil, identificando e punindo violações e denunciando os supostos infratores ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC). Alega ter “suspendido 52.222 contas e feito 73.604 relatórios ao NCMEC em 2026, resultando em (pelo menos) 244 prisões”.