Comediantes de IA estão roubando piadas no Instagram para vender assinaturas apenas de fãs

Os modelos OnlyFans e Fanvue, muitos ou todos eles podem ser IA, aparentemente encontraram uma forma barata de comercializar seus serviços de assinatura. Eles pegam um cenário de quadrinhos funcional, passam por um modelo de IA e colocam um corpo diferente no palco em um novo vídeo que postam em suas próprias contas do Instagram. Comediantes que reconhecem suas próprias partes ficam irritados com isso. Mas Justine Moore, parceira da equipe de IA do consumidor de Andreessen Horowitz, viu uma das contas e chamou a configuração de “um hack genial de marketing do OnlyFans”.

A conta da qual ela estava falando é Tiffany Sloane, postada no Instagram como @tiffany.bbyx. A primeira postagem na conta é de 11 de setembro. Moore disse que estava atraindo milhões de visualizações e que a conta tinha cerca de 375 mil seguidores e 124 postagens em 5 de outubro. Os clipes se parecem com o conteúdo stand-up curto e ao vivo normalmente visto na plataforma e até incluem uma marca d’água com o identificador do Instagram.

A página OnlyFans vinculada à conta está vinculada aos destaques do Instagram, em vez de incluída na biografia principal, que se refere ao titular da conta como atriz. Nada na biografia do Instagram diz que os sets são gerados por IA ou retirados de comediantes reais.

As próprias regras do OnlyFans dizem que o conteúdo de IA deve pertencer a um criador verificado, deve apresentar claramente esse criador e deve ser identificável como IA, com a hashtag #ai fornecida como a maneira mais fácil de fazer isso. Um artista totalmente sintético vive fora desse conjunto de regras.

Na semana passada, a repórter do Straight Arrow, Rosie Thomas, escreveu sobre contas do Instagram que refizeram piadas sobre namoro de mulheres com artistas gerados por IA. Olivia Carter, cuja parte de personal trainer também esteve no Netflix e no The Tonight Show, disse a Thomas que ela continuava recebendo cópias aumentadas de sua parte. Carter disse que inicialmente não conseguiu visualizar o conteúdo roubado porque a conta do bot associada a bloqueou.

Thomas também combinou uma piada de Daniel Day-Lewis de Sarah Purdum com a mesma conta de bot. Uma das contas tinha cerca de 180 mil seguidores e uma biografia que ia para o Fanvue, site de assinatura que permite a divulgação de criadores de IA. Thomas também descreveu um segundo relato, não pelo nome, cujo link da história levava a uma página OnlyFans com a biografia “19, e sim, o corpo é real”. Essa página é aquela com link dos destaques da Tiffany Sloane.

Usar uma persona de IA nas redes sociais para vender uma assinatura não é um conceito completamente novo. No ano passado, contas construídas em torno de imagens de mulheres baseadas em IA, incluindo filtros que faziam as pessoas parecerem ter síndrome de Down, levaram os espectadores a páginas pagas. O uso de piadas roubadas é apenas mais uma progressão deste mesmo tipo de estratégia.

Uma tecnologia construída com base no conteúdo de outras pessoas

Notavelmente, Moore não descreveu a conta como uma fraude. Em vez disso, ela aplaudiu a tática de crescimento. Depois que uma resposta em sua postagem anexou um lado a lado de uma mulher gerada em uma camisa rosa amarrada e um quadrinho em uma camisa de botão salmão, ela escreveu que “imaginou que pelo menos algumas delas eram criações de IA de vídeo para vídeo”.

Michel de Cryptadamus, que escreve The Cryptocalypse Chronicles no Substack, questionou se fazia sentido para Moore promover o uso de IA para comercializar uma assinatura com conteúdo de outras pessoas. “Não posso ser o único que acha perturbador que os VCs a16z estejam aqui explicando que o primeiro e melhor caso de uso da IA ​​é enganar o público com influenciadores falsos”, escreveu ele.

É claro que a indústria da IA ​​se baseia em grande parte em conteúdos que não pertencem nem são gerados pelas próprias empresas de IA. Num memorando interno de janeiro de 2023 recentemente divulgado no caso de direitos de autor do New York Times contra a Microsoft e a OpenAI, o diretor de ciência aplicada da Microsoft, Brent Hecht, chamou a formação em material raspado de “um roubo surpreendente de proporções sem precedentes” e “o maior roubo de trabalho na história da humanidade”, de acordo com um documento jurídico revelado no mês passado. Esses relatos de comediantes de IA são uma versão pequena e rudimentar de um conceito semelhante.

Carter disse a Thomas que o roubo em si não era a parte que mais a incomodava. Em vez disso, o aspecto mais preocupante da situação é o que ela diz sobre como o algoritmo do Instagram funciona e o que ele recompensa de forma mais geral.

“Acho que o Instagram pressionou onde, tipo, os comediantes agora são influenciadores e os influenciadores têm uma certa aparência”, disse Carter. “Na verdade, é como se os bots de IA apenas validassem que isso é algo que o algoritmo recompensa.”

“Para a comédia em geral, estamos criando um mundo onde as pessoas esperam que os quadrinhos sejam como corpos de mulheres gerados por IA”, acrescentou Carter. “Como se fosse realmente bizarro e meio distópico.”

Carter também disse que não posta mais piadas novas nas redes sociais, acrescentando que, em sua opinião, postar online é algo que os comediantes odiam há muito tempo.

No Threads, o comediante George Brett Olson escreveu que “A IA roubou minha piada e minha roupa”. A postagem incluía uma comparação lado a lado de fotos de seu próprio vídeo e um vídeo postado por Tiffany Sloane no qual os dois usavam roupas semelhantes e faziam o mesmo gesto.

Segundo Olson, o Instagram não está fazendo muita coisa para policiar esse tipo de atividade. “O que é loucura para mim é que você não pode denunciar isso. Muitas pessoas tentaram”, disse Olson. “Esta conta tem 300 mil seguidores, contando, e envia apenas piadas roubadas de quadrinhos. Além do mais, é assustador que sejam bots comentando, pessoas que não sabem a diferença ou simplesmente não se importam. Além disso, eles estragaram minha piada.”

Nós apenas começamos

Os clipes com os quais Olson e Carter estão preocupados são editados após o fato, mas a próxima versão desse tipo de ferramenta de IA faz a troca de rostos ao vivo. Na semana passada, o laboratório de pesquisa de IA Tavus apresentou o Griffin, que chama de primeiro modelo de interação humana, um sistema que observa, escuta e gera um rosto e uma voz no mesmo loop. Em um estudo realizado pela própria empresa, 26 de 54 pessoas em uma videochamada de um minuto pensaram que a persona Griffin-Lite era uma pessoa real, ou 48%, contra menos de 3% nos sistemas anteriores. A empresa disse que o Griffin-Lite é uma prévia da pesquisa, retida enquanto trabalha na segurança e na divulgação.

O apresentador do Breaking Points, Saagar Enjeti, tuitou a postagem de lançamento e escreveu: “IRL, esta empresa será comprada por OnlyFans ou alguma outra empresa pornográfica imediatamente”. O caso de “Tiffany Sloane” e outras contas de bots de IA semelhantes focadas na venda de sexo indica que a previsão de Enjeti pode facilmente acabar acertada.

Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo