São Francisco ordena que Meta pare de ‘permitir’ anúncios de abuso infantil de IA

Cidade de São Francisco O advogado atingiu a Meta com uma carta de cessar e desistir dizendo à empresa para parar de “permitir” anúncios pagos que incluem conteúdo de abuso sexual infantil gerado por IA e pediu-lhe que explicasse como os anúncios foram repetidamente veiculados em suas plataformas.

Na terça-feira, a WIRED informou que a Meta veiculou mais de 350 anúncios nos últimos meses que transformaram imagens estáticas de menores – alguns deles confirmados como indivíduos reais, incluindo um membro de uma família real europeia – em pequenos videoclipes que podem retratá-los realizando atos sexuais. Quando clicados, esses anúncios direcionariam as pessoas para baixar aplicativos de geração de imagens e vídeos de IA, alguns dos quais poderiam ser usados ​​para despir pessoas digitalmente ou criar outras imagens íntimas não consensuais.

Os anúncios, descobertos por investigadores do Tech Transparency Project (TTP), incluíam alguns anúncios idênticos que tinham sido carregados várias vezes e, no total, atingiram mais de 29.000 contas em países da União Europeia. Os anúncios exibidos no Facebook, Instagram e Threads também tinham como alvo contas nos EUA, Austrália e Índia. A WIRED relatou inicialmente um lote de 53 anúncios no início de agosto, mas mais de 250 do número total de anúncios foram veiculados nas plataformas da Meta após este relatório inicial.

“A Meta não conseguiu resolver um problema conhecido de anúncios sexualmente explícitos para crianças gerados por IA, ao mesmo tempo que lucrava com eles”, disse o procurador da cidade de São Francisco, David Chiu, em comunicado à WIRED. “Esses anúncios são profundamente perturbadores e causam danos a crianças reais. A Meta afirma ter tolerância zero com a exploração infantil, mas a escala e a persistência desses problemas sugerem que os esforços atuais são lamentavelmente inadequados. Isso é inaceitável e a Meta deve fazer melhor.”

“Nenhuma empresa – especialmente aquela que afirma que todos os anúncios são revistos e aprovados antes da distribuição e depois aceita pagamento por essa distribuição – deveria permitir que os seus sistemas de publicidade fossem utilizados desta forma”, escreve Chiu na carta de quatro páginas que o seu escritório enviou aos advogados da Meta.

A carta levanta uma série de questões sobre como funcionam as políticas de publicidade e os sistemas de segurança da Meta e pede que a equipe jurídica, de segurança infantil e de publicidade da empresa se envolva em “discussões imediatas” com a prefeitura. “Essas descobertas são especialmente preocupantes porque não parecem refletir uma falha isolada que o Meta corrigiu quando foi alertado pela primeira vez sobre o problema”, escreve Chiu.

Meta diz que “não há indicação” de que os anúncios foram exibidos em São Francisco e isso significa que eles estão “fora da jurisdição do procurador municipal”. Embora a biblioteca de anúncios do Meta, que é um repositório de anúncios, inclua alguns dados sobre anúncios publicados nos EUA, ela não detalha onde os anúncios podem ter sido veiculados nos EUA.

Em resposta às reivindicações jurisdicionais da Meta, o porta-voz do Ministério Público da cidade, Alex Barrett-Shorter, disse à WIRED que, como “os consumidores de São Francisco podem acessar os anúncios ilegais através dos espaços online da Meta”, o assunto é da cidade de negócios de São Francisco.

“Achamos a resposta da Meta surpreendente. A Meta parece menos preocupada se é culpada de explorar crianças do que se São Francisco deveria dizer alguma coisa sobre isso”, diz Barrett-Shorter. “A Meta tem problemas maiores para resolver aqui do que determinar nossa jurisdição.”

Meta disse anteriormente à WIRED que muitos dos anúncios identificados pelos pesquisadores do TTP já haviam sido removidos antes de serem denunciados – todos eles foram agora removidos por violarem suas políticas – e a maioria tinha “menos de 200 impressões” de contas. “Não toleramos aplicativos de nudificação ou qualquer tipo de exploração infantil, seja real ou gerada por IA”, disse anteriormente um porta-voz da Meta. A empresa disse que o “gasto total com publicidade” para os mais de 300 anúncios encontrados pelos pesquisadores foi “menos de US$ 5.000”.