Sites deepfake sexualmente explícitos têm como alvo mais de 100 políticos na Europa

Quase 150 políticos em toda a Europa foram incluídos em sites nocivos de pornografia deepfake nos últimos anos, de acordo com uma nova pesquisa vista pela WIRED. Alguns dos políticos, que são na sua maioria mulheres, tiveram a sua imagem incluída em vídeos explícitos, enquanto outros têm nomes e fotos listados em entradas perturbadoras semelhantes a bases de dados que podem ligar-se a ferramentas de criação de deepfake.

A análise de cerca de 160 domínios que hospedam abusos deepfake e outros conteúdos sexuais não consensuais, feita pelo pesquisador Benjamin Shultz, descobriu que pelo menos 138 mulheres parlamentares (deputadas) de 22 países da União Europeia apareceram ou foram mencionadas nos sites. Em contraste, apenas nove deputados do sexo masculino foram referenciados de alguma forma. Pelos cálculos de Shultz, é 33 vezes mais provável que as mulheres deputadas sejam alvo de ecossistemas deepfake.

“A pornografia deepfake faz parte de uma tendência muito maior de ódio e intimidação online contra mulheres e mulheres políticas”, diz Suzanne Kröger, deputada holandesa do grupo Holanda Progressista, que foi impactada. Kröger, que expressou raiva pelo que a pesquisa descobriu, diz que as descobertas são “profundamente perturbadoras” e ajudam a revelar a escala do abuso. “Somos políticos, temos uma plataforma e falamos abertamente”, diz Kröger. “Mas, entretanto, há milhões de mulheres vítimas destes atos criminosos.”

A pesquisa, publicada pelo think tank alemão sobre democracia digital Agora Digitale Transformation, concentra-se em membros do parlamento nacional de todos os 27 países da União Europeia. Shultz, pesquisador da Agora e pesquisador-chefe do American Sunlight Project, compilou os detalhes de mais de 5.800 membros de parlamentos em toda a Europa em julho e depois usou mecanismos de pesquisa personalizados para descobrir onde eles apareciam nos sites deepfake. (A investigação não inclui membros do Parlamento Europeu).

Os políticos da Alemanha, Holanda, Itália e França foram os que mais apareceram nos websites, de acordo com as conclusões, e quanto mais antigo for um político, maior será a probabilidade de ser alvo. Shultz alertou todos os parlamentares individualmente e orientou como o conteúdo pode ser removido. Os sites também incluem representações de celebridades, jornalistas e outras figuras públicas, diz ele. A WIRED não nomeia os sites para não chamar mais atenção para as imagens abusivas.

Vários investigadores e legisladores afirmam que, embora os políticos tenham sido alvo de deepfakes durante anos, isso pode prejudicar as práticas democráticas e criar efeitos inibidores que podem impedir que mulheres e raparigas se tornem figuras públicas. “Em primeiro lugar, isso desencoraja as mulheres de assumirem cargos e também as afasta da vida pública”, diz Shultz. “Há muitas evidências que sustentam que isso causa danos psicológicos reais. Isso também causa danos à reputação no futuro, caso queiram abandonar a política e seguir outra carreira.”

“Vídeos deepfake são usados ​​para intimidar os políticos, mas também para menosprezar as mulheres”, diz Sarah Dobbe, deputada do Partido Socialista Holandês, que foi impactada. “É muito importante que, se uma mulher ou menina for vítima desta forma, ela possa obter apoio direto, se necessário, e que o conteúdo seja removido rapidamente.”

Nos sites que monitorou, Shultz categorizou diversas categorias de conteúdo ou comportamento abusivo. Os seus resultados incluem casos em que os deputados apareceram em conteúdos que estavam a ser ativamente alojados nos sites, resultados indexados onde o conteúdo foi removido e também uma série de perfis e “gateways” onde potenciais novos conteúdos poderiam ser criados.

Vários sites hospedavam páginas que incluíam nomes de deputados, fotos oficiais e, em alguns casos, seus perfis de mídia social ou informações pessoais. Algumas incluíam seções “classificando” os corpos das mulheres, diz o relatório de Shultz. Muitas vezes, ao lado dessas biografias de deputados havia links para os chamados aplicativos nudificadores ou para as próprias ferramentas dos sites que alegavam despir as pessoas digitalmente. “Tem todas as imagens, todas as informações e um link direto para a ferramenta, e em três cliques você pode gerar”, diz Shultz. “Isso é tão ruim quanto hospedar o conteúdo.”

Desde que os deepfakes criados por IA surgiram pela primeira vez no final de 2017, a tecnologia subjacente para produzi-los tornou-se muito mais acessível e o resultado das ferramentas tornou-se mais realista. Ao longo do tempo, milhões de imagens e vídeos não consensuais de IA foram criados, principalmente por homens e rapazes, e são frequentemente utilizados para assediar, intimidar ou chantagear mulheres e raparigas, inclusive em quase 100 escolas em todo o mundo.

“Estas plataformas foram concebidas para funcionar como empresas”, afirma Henry Ajder, consultor de IA e especialista em deepfake que acompanha o ecossistema desde 2018. Ele afirma que, embora não seja surpreendente que os políticos estejam a ser alvo desta forma, as descobertas são úteis para que as autoridades europeias compreendam a gravidade do problema. “Toda a infraestrutura está configurada para fazer isso em grande escala com facilidade”, diz ele.