Nova York apreende uma dúzia de sites deepfake de celebridades

Para o melhor Durante parte de uma década, sites abusivos de “pornografia” deepfake publicaram milhares de vídeos não consensuais retratando mulheres, incluindo celebridades de destaque, políticos e figuras públicas, em situações sexuais. Agora, naquela que é provavelmente a maior derrubada de sites deepfake explícitos até o momento, as autoridades de Nova York apreenderam mais de uma dúzia de sites nocivos.

Na segunda-feira, o Gabinete do Procurador Distrital de Manhattan anunciou a apreensão de 12 domínios que afirma terem sido usados ​​para compartilhar, publicar e vender “ilegalmente” vídeos deepfake de celebridades. Cerca de 1.200 pessoas – a maioria mulheres – foram retratadas em imagens e vídeos sexuais não consensuais nos sites, diz o escritório. Estes incluíram influenciadores das redes sociais, atores, ativistas, atletas, músicos e políticos.

“Essas horríveis violações de privacidade acompanham as vítimas em suas carreiras e vidas pessoais e têm um impacto imenso no bem-estar emocional e mental”, disse o promotor público Alvin Bragg em um comunicado, instando as possíveis vítimas a se apresentarem e entrarem em contato com o escritório de crimes cibernéticos de seu escritório. O escritório afirma que suas investigações sobre quem é o responsável pelos sites, além daqueles que enviaram vídeos prejudiciais às vítimas, estão em andamento.

As apreensões, realizadas ao abrigo das leis processuais criminais de Nova Iorque, marcam talvez uma das ações mais significativas e abrangentes contra websites que alojam vídeos deepfake explícitos desde que a tecnologia surgiu pela primeira vez no final de 2017. À medida que a tecnologia de inteligência artificial melhorou, surgiu uma indústria obscura de websites, aplicações e bots: são concebidos para “despir” fotografias de mulheres ou criar vídeos sexuais explícitos que as incluam. As imagens e vídeos estão cada vez mais realistas e podem ser gerados em segundos.

Embora a tecnologia deepfake seja amplamente utilizada contra mulheres e meninas não famosas – muitas vezes compartilhada em grupos privados de mídia social – as celebridades falaram sobre os muitos danos de serem retratadas no conteúdo e os desafios de removê-lo. Embora as leis contra deepfakes tenham demorado a surgir, a Lei Take It Down dos EUA permite cada vez mais a remoção de imagens, com parte da lei permitindo que os responsáveis ​​​​pela aplicação da lei retirem e apreendam sites.

O Gabinete do Promotor Distrital de Manhattan não divulgou publicamente os sites que apreendeu. No entanto, antes do anúncio de Bragg, a WIRED observou de forma independente várias páginas iniciais dos sites sendo substituídas por avisos de remoção – “ESTE DOMÍNIO FOI APREENDIDO” – no final da semana passada, com os sites agora dizendo que foram tomados após um mandado de apreensão emitido por uma Suprema Corte do Estado de Nova York.

“As remoções são uma vitória significativa na luta contra imagens íntimas não consensuais sintéticas (NCII)”, diz Leonie Oehmig, pesquisadora do Instituto de Diálogo Estratégico (ISD), que estudou o ecossistema de criação deepfake. Oehmig diz que a aplicação das leis estaduais mostra que o conteúdo prejudicial pode ser combatido e que os sites apreendidos não parecem acessíveis se usar VPNs para tentar acessá-los de outros locais. “Isto mostra que é possível alcançar uma aplicação significativa e coordenada, mesmo quando a própria regulamentação permanece fragmentada entre jurisdições.”

Os sites provavelmente foram visualizados milhões de vezes. Muitos usavam nomes que incluíam frases como “celebridade sexual” ou prometiam “deepfakes reais”. Eles hospedaram vídeos falsos de algumas das celebridades mais famosas do mundo, com um deles dizendo: “rostos de várias atrizes são usados ​​para deepfakes”.

Os vídeos podem ter vários minutos de duração e incluir cenas totalmente sexualmente explícitas – muitas vezes trocando rostos de celebridades ou figuras públicas em vídeos pornográficos existentes. Versões arquivadas dos sites mostram que alguns vídeos foram assistidos dezenas de milhares de vezes, e um dos sites afirma estar online desde 2018.