Ferramentas da Gen AI agora estão sendo usadas para promover a ‘Slop Jihad’
Há mais de uma década, o Estado Islâmico divulgou um vídeo perturbador que mostrava os seus membros a baixar homens trancados numa jaula numa piscina e a afogá-los. Hoje, esse vídeo foi reproduzido como um desenho animado do Bob Esponja Calça Quadrada retratando peixes em macacões laranja dentro da gaiola, enquanto Bob Esponja abaixa a gaiola na água enquanto Lula Molusco filma a cena.
O vídeo, compartilhado no TikTok, faz parte do que um novo relatório do Instituto de Diálogo Estratégico (ISD) chama de “Slop Jihad”, uma tendência em que jovens apoiadores de grupos terroristas islâmicos como o ISIS e a Al Qaeda parecem usar ferramentas generativas de IA para criar edições de fãs, desenhos animados e memes projetados para radicalizar uma nova geração de apoio online.
Esta mudança “sinaliza uma transformação fundamental na estética da propaganda jihadista online”, conclui o relatório, que foi partilhado exclusivamente com a WIRED.
“A principal preocupação é o crescente volume e diversidade de material”, afirma Adam Hadley, diretor executivo da Tech Against Terrorism, uma organização antiterrorista apoiada pela ONU que também escreveu um relatório sobre a tendência Slop Jihad. “O conteúdo altamente estilizado gerado pela IA pode tornar o material extremista islâmico violento mais acessível ao público mais jovem, ao mesmo tempo que reduz a visibilidade da marca terrorista convencional. Os utilizadores podem encontrar inadvertidamente a glorificação do perpetrador através de edições de fãs, desenhos animados, memes e outros formatos orientados para o entretenimento, após os quais o envolvimento pode conduzir a recomendações algorítmicas de propaganda relacionada e mais aberta.”
Os grupos terroristas islâmicos há muito que demonstram a sua capacidade de se adaptarem aos novos ambientes mediáticos para transmitirem as suas mensagens a um vasto público online, aproveitando tecnologias novas e emergentes para ajudar no recrutamento e criar uma rede descentralizada de propaganda. Isto foi visto no movimento Alt Jihad do início da década de 2020, que procurou cooptar a estética da direita alternativa no conteúdo do terrorismo islâmico.
Esses grupos também utilizam tecnologia de IA generativa há vários anos. Em 2024, o programa de notícias News Harvest, afiliado ao Estado Islâmico, começou a usar âncoras geradas por IA para ajudar a disseminar vídeos de propaganda de forma rápida e barata.
Mas hoje, a aparência do conteúdo produzido com IA generativa é marcadamente diferente.
“Isto é novo e ainda está a crescer, não atingiu de forma alguma o seu pico”, afirma Moustafa Ayad, chefe de investigação em Islamismo Global e Combate ao Terrorismo no ISD. “Sempre houve conteúdo realmente de má qualidade produzido no ecossistema de suporte, mas não era Bob Esponja Calça Quadrada como o Estado Islâmico.”
Ferramentas generativas de IA também têm sido utilizadas para transformar de forma rápida e barata conteúdo oficial de grupos terroristas em vídeos animados. Por exemplo, uma conta do TikTok estava transformando o boletim informativo semanal al-Naba do ISIS em anime.
A tendência Slop Jihad sofreu alguma resistência por parte dos apoiadores mais tradicionais que não gostam da nova estética. “Parece haver alguma animosidade em relação a isso, porque eles não acreditam que os produtores de Slop Jihad sejam verdadeiros crentes”, diz Ayad, referindo-se a algumas reações ao vídeo do Bob Esponja. “Mas, novamente, algumas contas que compartilharam propaganda oficial tradicional estão compartilhando os vídeos mais recentes. Portanto, parece haver uma relação de amor e ódio com o conteúdo do Slop Jihad.”
Há anos, o TikTok tem sido central na campanha de mensagens online de grupos terroristas islâmicos, aproveitando as poderosas recomendações algorítmicas da plataforma para espalhar sua mensagem. Um relatório da Organização para a Cooperação e Desenvolvimento Económico de 2024 concluiu que o TikTok estava entre as 10 principais plataformas utilizadas para espalhar conteúdo terrorista e extremista.
Embora Ayad tenha encontrado um número limitado de vídeos do Slop Jihad em outras plataformas como Instagram e Facebook, a grande maioria dos vídeos foi encontrada no TikTok. No total, ele encontrou 150 vídeos do Slop Jihad de 71 contas com mais de 5,4 milhões de visualizações totais na plataforma. Ayad acredita que a prevalência desse conteúdo no TikTok se deve ao algoritmo For You Page da plataforma “que é hiper-direcionado aos interesses do usuário”. Ele também credita o alto nível de falha geral de IA na plataforma e “um ecossistema existente e entrincheirado de apoio jihadista na plataforma”.
