TikTok visa contas de spam geradas por IA em tópicos de alto risco
A TikTok testará melhorias em seus sistemas de detecção para contas que postam spam gerado por IA sobre política e eventos atuais, consultoria financeira e tópicos médicos, conforme anunciado em uma postagem na redação. Os testes estão programados para começar nas próximas semanas e descreveram essas categorias como áreas onde o conteúdo enganoso pode afetar a confiança ou o bem-estar do público.
O conteúdo médico é um dos três alvos nomeados e está alinhado com um relatório Kapwing que abordei em junho, que concluiu que a saúde era entre as categorias mais altas de conteúdo gerado por IA no TikTok, bem acima das categorias onde os criadores aparecem na câmera.
A TikTok explicou que os testes são implementados no nível da conta, dizendo que a empresa já remove spam em grande escala e desmantelou mais de 86 milhões de contas falsas nos primeiros três meses deste ano.
Como outras plataformas responderam
Este anúncio faz parte de esforços mais amplos para promover conteúdo autêntico em plataformas de mídia social. Em julho passado, o YouTube atualizou suas diretrizes de monetização para lidar melhor com vídeos inautênticos e repetitivos, e o Meta rapidamente seguiu com suas próprias medidas contra conteúdo não original.
Além disso, em junho, o Google publicou um artigo sobre um sistema projetado para detectar e remover grupos coordenados de contas postando spam gerado por IA.
O assento do comitê C2PA
Além dos testes de spam, o TikTok anunciou sua participação no comitê diretor da Coalition for Content Provenance and Authenticity, organização responsável pelo desenvolvimento do padrão C2PA que rastreia a origem e as modificações de conteúdo digital.
TikTok mencionou que foi a primeira plataforma de vídeo a implementar credenciais de conteúdo C2PA há dois anos. A TikTok disse que o assento no comitê permitirá ajudar a impulsionar a adoção da tecnologia em toda a indústria.
A empresa anunciou que marcou mais de 3 bilhões de vídeos como conteúdo gerado por IA, utilizando credenciais de conteúdo, rótulos de criadores e sua marca d’água invisível proprietária. Em maio, o Google deu um passo semelhante ao estender a verificação SynthID à Pesquisa e prometer que a verificação C2PA seria introduzida em breve.
Por que isso é importante
Isso se enquadra em categorias nas quais muitos profissionais de marketing se concentram, como saúde, que já possui muito conteúdo gerado por IA. Qualquer pessoa que crie vídeos relacionados a finanças, saúde ou política no TikTok está trabalhando em tópicos que o TikTok está especialmente atento para spam. O que isso significa na prática dependerá de como o TikTok conduzirá o teste, e os detalhes ainda não estão claros no anúncio.
Olhando para o futuro
Os detalhes a serem observados são como o TikTok define uma conta qualificada e o que se segue a uma detecção, nenhum dos quais o anúncio explica. Também não há data de início firme além das próximas semanas. Do lado do C2PA, a TikTok não anunciou nenhuma alteração em seu sistema de rotulagem existente.
Imagem em destaque: Mamun_Sheikh/Shutterstock
