Um homem acusado de possuir CSAM gerado por IA teve sua acusação rejeitada. Aqui está o porquê.

Mary Anne Franks entende por que as pessoas podem estar chateadas com uma recente decisão judicial sobre a posse de material de abuso sexual infantil gerado por IA.

A decisão, emitida no final de agosto por um tribunal federal de apelações, concluiu que a Primeira Emenda protege a posse de material de abuso sexual infantil, ou CSAM, em casa, se tiver sido criado com recurso a inteligência artificial e não representar uma criança real.

“Muitas pessoas têm intuições bastante compreensíveis sobre o quão errado isso parece, ou como parece que há algo radical acontecendo aqui”, disse Franks, professor Eugene L. e Barbara A. Bernard em Propriedade Intelectual, Tecnologia e Direitos Civis na Faculdade de Direito da Universidade George Washington.

Em vez disso, Franks disse que o painel aderiu às decisões da Suprema Corte emitidas há décadas, antes que a IA pudesse produzir imagens hiper-realistas de pessoas falsas e imagens falsas de pessoas reais.

“Acho que é uma leitura muito direta de precedentes anteriores, mas também entendo por que é realmente perturbador ouvir isso”, disse Franks ao Mashable.

Mas esse não é o fim da história. Os juízes deixaram claro seu desconforto com a conclusão ao sinalizar ao Supremo que poderia reconsiderar o precedente. Franks chamou a mudança de “incomum”.

“(D) dados os avanços significativos na tecnologia de imagens geradas por computador, particularmente no campo da inteligência artificial, nos beneficiaríamos de orientação adicional da Suprema Corte em relação à intersecção entre a Primeira Emenda e o CSAM virtual se um caso apropriado surgisse”, escreveram os juízes John Z. Lee e Joshua P. Kolar.

Do que se trata realmente o caso AI CSAM?

O painel de três juízes, que faz parte do Tribunal de Apelações do 7º Circuito dos EUA, considerou os fatos de um caso federal contra Steven Anderegg, um engenheiro de software que usou ferramentas generativas de IA para criar CSAM “hiper-realistas”.

Ele não apenas supostamente produziu, distribuiu e possuía o material, mas também o enviou a um menor por meio de mensagens diretas do Instagram em outubro de 2023. Meta, empresa-mãe do Instagram, detectou e denunciou a imagem e a denunciou ao Centro Nacional para CyberTipline de Crianças Desaparecidas e Exploradas.

Uma investigação policial posteriormente levou à prisão de Anderegg. Ele foi acusado de vários crimes, incluindo possuir conscientemente “pelo menos uma representação visual que retratasse um menor envolvido em conduta sexualmente explícita e fosse obscena”.

Anderegg decidiu rejeitar a acusação de posse, argumentando que a condenação por posse de CSAM violaria os seus direitos da Primeira Emenda, conforme definidos por decisões anteriores do Supremo Tribunal. Um tribunal distrital concordou. Os promotores recorreram dessa decisão, levando o caso ao Tribunal de Apelações do 7º Circuito dos EUA, que acabou retirando a acusação de posse.

Anderegg ainda enfrenta acusações por produzir e distribuir CSAM.

Por que este tipo de CSAM é protegido pela Primeira Emenda?

Uma combinação de casos anteriores da Suprema Corte levou à retirada da acusação de posse de CSAM de Anderegg, explicou Franks.

Nomeadamente, em 1969, o Supremo Tribunal decidiu em Stanley v. Geórgia que os indivíduos têm o direito de possuir obscenidades em sua própria casa.

Em 1990, contudo, o Supremo Tribunal criou uma excepção quando abordou a posse de “pornografia infantil” em Osborne v.. A decisão reconheceu que a posse de CSAM, mesmo que vista apenas em casa, serve tanto como um registo permanente do abuso de uma criança como como uma potencial isca para outras vítimas. A proibição da posse deste material poderia ajudar a diminuir a procura e a produção de CSAM, argumentaram os juízes.

Então, em 2002, a Suprema Corte considerou uma disposição da lei federal que proibia a posse de virtual CSAM. A proibição foi amplamente redigida para incluir qualquer representação visual ou imagem gerada por computador que parecesse ser de um menor envolvido em conduta sexualmente explícita.

O tribunal derrubou a disposição e declarou efetivamente que CSAM inteiramente gerado por computador é protegido pela Primeira Emenda.

O Tribunal não abordou outra disposição da lei federal que proibia CSAM “transformado” ou CSAM gerado por computador criado a partir de imagens de crianças reais.

O Tribunal de Apelações dos juízes do 7º Circuito dos EUA, que recentemente se baseou na decisão de 2002 para decidir o recurso de Anderegg, reconheceu a dificuldade de fazê-lo.

“Dado o avanço incessante nos modelos de inteligência artificial, temos algumas preocupações sobre os limites que esses casos traçam, mas não somos livres para redesenhá-los nós mesmos”, escreveu o juiz John Z. Lee em seu parecer.

O que acontece a seguir com AI CSAM

O governo ainda não recorreu da decisão do 7º Circuito, mas Franks disse que tem a opção de fazê-lo. Nesse cenário, o Supremo Tribunal consideraria aceitar o caso no período de outubro.

Franks disse que a conclusão de que o CSAM totalmente virtual é protegido pela Primeira Emenda poderia ser contestada com sucesso. Em particular, o governo poderia argumentar que os modelos de IA foram de facto treinados em imagens CSAM.

Como resultado, mesmo que uma determinada imagem CSAM gerada por IA não represente uma criança real, ela pode ter sido produzida usando a imagem de uma criança real sendo vítima.

Franks acredita que as proibições de CSAM virtual devem ser definidas de forma muito restrita e cuidadosa para evitar “o uso de armas por cruzados moralistas com agendas de educação anti-LGBTQ+, misóginas e/ou anti-sexuais”.

O Projecto 2025 da Heritage Foundation, por exemplo, defende que a pornografia deve ser proibida e aqueles que a produzem e distribuem devem ser presos. O Projeto 2025 vincula a pornografia à “propagação onipresente da ideologia transgênero e à sexualização de crianças”.

Ainda assim, Franks disse que os riscos do AI CSAM são reais e presentes, e não possibilidades hipotéticas.

Na sua opinião, a AI CSAM normaliza a sexualização das crianças por adultos e por outras crianças, minando a sua autonomia corporal, auto-estima e florescimento.

“A pergunta que deveríamos fazer é quais os possíveis benefícios que o AI CSAM oferece que justifica tais danos”, disse Franks.

Se você é uma criança que está sendo explorada sexualmente online, ou conhece uma criança que está sendo explorada sexualmente online, ou testemunhou a exploração de uma criança ocorrer online, você pode denunciar isso ao CyberTiplineque é operado pelo Centro Nacional para Crianças Desaparecidas, Exploradas.