Ninguém está a salvo de deepfakes de IA de celebridades

Em retrospectiva, a postagem no Instagram deveria ter levantado mais bandeiras vermelhas. A imagem pretendia mostrar a atriz Mia Goth, poucos dias após o pedido de divórcio do ator e cineasta Shia LaBeouf, posando com uma camiseta com uma mensagem contundente: MEU EX É MEU MAIOR FÃ. Para realmente deixar claro, a música “Single Ladies (Put a Ring on It)” de Beyoncé foi adicionada ao post.

Teria sido estranho para a estrela de Pérolaque não tem muita presença nas redes sociais, se houver. Mas a conta do Instagram que postou isso, @miagoth_, tinha mais de um milhão de seguidores e estava marcada com uma marca de seleção azul “verificado”. Em poucos dias, a imagem acumulou quase 500 mil curtidas, inclusive de colegas da indústria do entretenimento, apesar da página ser rotulada como conta de fã.

A imagem, como A beira relatado, foi gerado por IA, postado por uma conta que o representante do gótico disse ter reclamado ao Instagram antes por postar “imagens falsas de IA” do gótico. Meta permite que os usuários comprem marcas de seleção azuis “verificadas”, mesmo que a conta não seja administrada por uma figura proeminente ou não seja uma página oficial.

“O fato de esta conta de fã atender aos critérios do Instagram para se qualificar para um ‘cheque azul’ é desconcertante em um nível fundamental”, disse Christine Tripicchio, representante do Goth. A beira em um e-mail. “Além disso, é incompreensível que o Instagram evidentemente priorize a divulgação de imagens forjadas e manipuladas em detrimento da proteção e integridade da imagem de uma figura pública.”

Por causa da notícia de seu divórcio, a postagem chegou aos meios de fofoca sobre celebridades, e essa cobertura, por sua vez, propagou a postagem por meio da pesquisa do Google. Pesquisas pela atriz e pela camisa desencadearam uma visão geral gerada por IA dizendo que Goth estava dando “um golpe claro em seu ex, Shia LaBeouf, após seu recente pedido de divórcio”, por sua vez citando os blogs mencionados acima. Uma seção nos resultados de pesquisa do Google chamada “Mia Goth chama a atenção no Instagram ao usar uma camiseta atrevida ‘Meu ex é meu maior fã’” foi destaque, junto com links para postagens nas redes sociais discutindo a imagem. O Instagram acabou removendo a conta por se passar por uma figura pública.

Desde que as ferramentas de IA generativas para o consumidor foram disponibilizadas há vários anos, alguns dos casos de uso mais memoráveis ​​– e controversos – envolveram pessoas famosas. Os seres humanos em questão historicamente não responderam bem ao serem clonados digitalmente e usados ​​como brinquedos: uma música parecida com o som de Drake gerada por IA foi apagada do YouTube após ataques de direitos autorais. Scarlett Johansson contratou uma equipe jurídica depois que a OpenAI lançou uma voz para ChatGPT que soava como ela sem seu consentimento. Diz-se que Ariana Grande bloqueou uma conta que postava conteúdo dela gerado por IA no ano passado. Taylor Swift apoiou publicamente Kamala Harris para presidente em 2024, dizendo que ela se sentiu motivada a esclarecer sua posição depois que Donald Trump postou imagens falsas sugerindo que ela o apoiava.

Houve um momento em que todos, mesmo os ricos e famosos, estavam às voltas com as normas em torno de uma nova tecnologia. Agora, o declínio do conteúdo de IA online só está crescendo – e não está claro se alguém está tentando ou é capaz de impedi-lo.

O conteúdo de IA que retrata figuras públicas femininas costuma ser abertamente sexual. Um perfil que publica exclusivamente imagens de Johansson geradas por IA – muitas vezes com os pés descalços exibidos em destaque – incluía informações de contato para que as empresas pudessem anunciar na conta, junto com links para canais Patreon e Telegram que vendem assinaturas. O conteúdo fora da plataforma usava o nome e a imagem (AI) de Johansson para anunciar conteúdo adulto. Outra conta publica imagens realistas geradas por IA de atores e músicos como Millie Bobby Brown, Zendaya e Grande, sempre parcialmente despidos ou em posições sexualizadas. Algumas contas têm seu próprio nicho, como “Coisas estranhas atores se casando entre si.

Depois A beira perguntou à Meta sobre oito contas postando conteúdo deepfake de celebridades, o porta-voz Alex Dziedzan disse que a empresa havia removido algumas das contas. Dois deles – o gótico e o de Johansson – parecem ter sido retirados.

“Não permitimos que contas usem a imagem de alguém para se passar por esse indivíduo, independentemente de o conteúdo ser autêntico ou gerado por IA”, disse Dziedzan por e-mail.

Taylor Swift está segurando uma bebida, cantando “Burning Bridges” de Drake, com palavrões e tudo. “Estou fora de um (Quaalude) / isso faz meu corpo formigar”, ela canta, usando o vestido do fatídico momento do VMA de 2009. O vídeo é IA, obviamente. Possui 1,8 milhão de visualizações no Instagram.

“Não acho que a equipe de relações públicas dela vá gostar que ela diga a palavra com N”, comentou alguém.

O Instagram está repleto de vídeos como esse, muitas vezes seguindo inexplicavelmente formatos muito específicos. Um clipe de AI Shrek fazendo a mesma coisa que AI Swift tem 3,1 milhões de visualizações. Aqui está Steve Jobs, ostentando uma música diferente de Drake com uma garrafa de champanhe na mão (371.000 visualizações). Há também uma versão idêntica de Lionel Messi (2,1 milhões de visualizações) postada por uma conta diferente. Aqui estão os pilotos de Fórmula 1 Lewis Hamilton e Max Verstappen sincronizando “APT” de Bruno Mars e Rosé (2,9 milhões de visualizações). Outro clipe mostra o casamento de AI Swift com AI Travis Kelce no AI Madison Square Garden.

“ai, ele usava smoking branco”, um fã verificou os fatos.

Na ausência de leis nacionais de direito à publicidade, o conteúdo gerado por IA apresentando pessoas reais está sendo litigado no nível da plataforma. (A Lei Take It Down dos EUA, que foi sancionada em 2025, criminaliza especificamente a distribuição de imagens íntimas não consensuais, incluindo conteúdo gerado por IA, e obriga as plataformas a removê-las no prazo de 48 horas.)

O YouTube tem detecção de semelhança, talvez o sistema mais robusto de monitoramento e remoção de deepfakes. De acordo com o programa, o YouTube examinará sua plataforma em busca de correspondências visuais para uma pessoa – e, recentemente, sons semelhantes – e permitirá que ela solicite a remoção de conteúdo. Nem todas as solicitações de remoção são aceitas; a empresa afirma que considera o interesse público, o interesse jornalístico e o consentimento ao avaliar as remoções. O programa foi inicialmente aberto a figuras públicas como celebridades, criadores de conteúdo, políticos e jornalistas, mas agora abrange todos os adultos com uma conta no YouTube. No passado, a empresa disse que o número de solicitações de remoção que recebe é relativamente pequeno. Os criadores querem estar cientes do que é postado sobre eles no YouTube, mas muitas vezes isso acaba sendo “bastante benigno ou adicional ao seu negócio em geral”, disse Amjad Hanif, vice-presidente de produtos para criadores, em uma coletiva de imprensa em março.

O porta-voz do YouTube, Jack Malon, observou em um e-mail para A beira que a detecção de semelhança da empresa foi desenvolvida em parceria com a indústria do entretenimento. Malon disse que no primeiro semestre de 2026, o YouTube removeu mais de 95 por cento dos vídeos denunciados por meio do programa para remoção.

O conteúdo gerado por IA em plataformas Meta geralmente possui rótulos que o identificam como tal. Alguns conteúdos, como vídeos realistas de pessoas ou áudio de vozes geradas por IA, precisam ter um rótulo de IA. As imagens estáticas, por outro lado, estão isentas da exigência de rotulagem – o que significa que a imagem falsa de Mia Goth não exigiria divulgação sob as regras do Meta. A empresa também introduziu rótulos de “perfil gerado por IA” que se aplicam a uma conta inteira onde o avatar representado não existe no mundo real depois que um influxo de tipos de influenciadores de IA inundou a plataforma.

Mas existe uma indústria artesanal de contas que produz imagens de pessoas reais geradas por IA que o algoritmo parece gostar. Parte do conteúdo não é obviamente nefasto, apenas meio estranho: há um gênero no Facebook, por exemplo, de vídeos de estreia de filmes gerados por IA, onde o elenco original (fantasiado) caminha no tapete vermelho ao lado dos atores para uma versão reformulada. Um perfil anuncia cursos online de US$ 29 por mês sobre como ganhar dinheiro com conteúdo de IA.

O conteúdo de celebridades gerado por IA também tem a capacidade de realmente enganar as pessoas, fazendo-as pensar que é real, como no caso da imagem (e conta) que retrata o gótico. A postagem específica que se tornou viral sugeria que a atriz estava provocando LaBeouf, que foi acusado de abuso por outro ex-parceiro e foi filmado em 2015 dizendo que “teria matado (gótico)” se tivesse continuado a discutir com ela. A imagem falsa chamava a atenção, era obscura e oportuna – em outras palavras, perfeita para a viralidade nas redes sociais, mas um risco potencial para as partes envolvidas. O incidente ilustra as falhas nas disposições de confiança e segurança que deveriam proteger contra este tipo de confusão.

Nas redes sociais, o conteúdo de IA se mistura livremente com republicações padrão de imagens reais. E mesmo quando uma página é retirada do ar, há outras que continuam a divulgar conteúdo: outra conta do Instagram – ainda ativa – com mais de 300 mil seguidores publica um fluxo constante de fotos e vídeos de Johansson, que parecem ser uma mistura de imagens autênticas e conteúdo gerado por IA. Uma de suas postagens mais populares é o que parece ser uma imagem de Johansson com IA, com quase meio milhão de curtidas. Não há divulgação de IA, de acordo com as regras do Meta. O deepfaked Johansson está deitado em um sofá, com os pés descalços exibidos em destaque. Não é ela, obviamente – mas os fãs dela nos comentários não sabem ou não sabem cuidado.