A detecção de IA do Instagram é uma bagunça (de novo)
Os rótulos visíveis de IA do Instagram devem ajudar as pessoas a identificar rapidamente o conteúdo gerado sinteticamente. Nas últimas semanas, no entanto, os usuários relataram que o sistema ficou descontrolado. Eles dizem que a Meta tem aplicado automaticamente um rótulo de “Conteúdo de IA” a imagens que eles não criaram ou editaram usando ferramentas generativas de IA. Enquanto isso, imagens reais de IA estão escapando, deixando a impressão de que nada é confiável no Instagram.
As causas precisas desta marcação parecem variar. Muitas pessoas disseram que o rótulo apareceu em imagens que foram editadas com ferramentas como o Removedor de fundo do Canva ou com uso insignificante de ferramentas de correção de manchas. Um usuário do Threads disse que o Instagram estava aplicando o rótulo “sempre que há removedor de BG envolvido”, e outro usuário disse que ele apareceu depois de usar o Canva para remover “uma mancha” de sua foto, resultando na sinalização de toda a imagem no Instagram como IA. Em outros casos, as causas são ainda menos claras.
Se esse acidente de rotulagem parece familiar, você deve se lembrar que um problema semelhante afetou a fotografia no Instagram com o rótulo “Made by AI” em 2024, alguns meses após o lançamento do recurso. Em fevereiro daquele ano, a Meta anunciou que iria escanear imagens em busca de metadados IPTC e C2PA, o que pode provar com razoável certeza se a IA generativa foi usada para criá-las ou manipulá-las. Mas sempre foi vago quanto aos seus métodos. Em 2024, o sistema de detecção teria varrido imagens cujos metadados da Adobe indicavam que haviam sido retocadas com ferramentas generativas de IA, mesmo que as alterações fossem extremamente pequenas e resultassem substancialmente na mesma fotografia. A Meta então prometeu ajustar sua abordagem de rotulagem para refletir melhor “a quantidade de IA usada em uma imagem”. Ele também disse que usa “indicadores padrão da indústria que outras empresas incluem no conteúdo de suas ferramentas”, mas não há nenhuma informação recente disponível sobre o que são, ou como e quando os verifica. Meta não respondeu a um pedido de esclarecimento.
Os rótulos errôneos relatados recentemente não têm uma ligação clara com o uso generativo de IA. Embora recursos como remoção de fundo fazer costumam usar aprendizado de máquina, é a mesma variedade de IA assistencial que aplicativos como o Photoshop usam em ferramentas de seleção e remoção de objetos há mais de uma década – e não as ferramentas generativas de texto para imagem normalmente associadas a imagens de IA enganosas.
Pelo menos alguns dos recentes contratempos de rotulagem de IA do Instagram parecem ser culpa do Canva. Depois de sinalizar as preocupações com a marcação do Background Remover, a estrategista de conteúdo Jess Bruno relata que o Canva voltou a ela com uma explicação: algumas das ferramentas assistivas de IA da plataforma de design “estavam sendo marcadas como generativas”. A plataforma de design disse a Bruno que suas ferramentas agora estão etiquetadas corretamente. Uma mensagem na página de ajuda para remoção de plano de fundo do Canva também diz que o uso da ferramenta “não adiciona metadados de conteúdo gerados por IA do Canva ao seu design”, embora não esteja claro se essa nota é nova e o Canva não respondeu a uma solicitação de comentário.
Mesmo assim, alguns usuários do Threads estão relatando que o uso do removedor de fundo do Canva ainda resulta na marcação de suas imagens, apesar do Canva afirmar ter resolvido o problema. Outros usuários do Threads também relatam que nenhuma das imagens que editaram usando a ferramenta antes de serem corrigidas foi marcada pelo Instagram, nem a ferramenta aplicou metadados C2PA que Meta supostamente usa para detectar conteúdo gerado por IA.
De todos os testes que fiz para ver o que faria o rótulo aparecer no Instagram, ele só foi aplicado em imagens que editei ou gerei totalmente no aplicativo Meta AI.
Também há casos relatados de marcação de IA em que o removedor de fundo do Canva nunca foi usado. Um usuário descobriu que Meta aplicou a tag em uma imagem que foi envenenada – ou sutilmente ajustada por um sistema projetado para tornar as imagens inúteis para treinamento de IA e/ou degradar os modelos de IA aos quais elas são alimentadas – e não marcou uma versão não envenenada do mesmo conteúdo.
A tag AI Content também foi aplicada automaticamente às fotos recentes postadas no Instagram pela About Face, empresa de cosméticos fundada pela cantora Halsey. Quando um comentarista perguntou sobre a etiqueta de IA, o gerente social anônimo da marca disse que nenhuma IA foi usada para criar as imagens. “Esta foto foi tirada no meu iPhone e depois ligeiramente editada por mim no aplicativo de fotos. Nossa marca usa artistas e pessoas reais para criar tudo o que você vê em todas as nossas plataformas”, diz a resposta do About Face.
Entrei em contato com o About Face para esclarecer quais ferramentas do aplicativo Fotos do iPhone foram usadas, mas a empresa ainda não respondeu. Dito isso, apenas alguns deveriam adicionar metadados generativos de IA às fotografias: Spatial Reframing, Extend e Clean Up atualizado adicionados no iOS 27. Essas ferramentas usam Apple Intelligence e são incorporadas à marca d’água SynthID invisível do Google; os dois primeiros adicionam novos elementos geradores, enquanto o terceiro permite que os usuários removam objetos ou pessoas que distraem. As imagens marcadas não têm SynthID incorporado, de acordo com a verificação baseada no Gemini do Google, mas mesmo que essas ferramentas Apple Intelligence tenham sido usadas, não está claro por que o rótulo diz ter detectado sinais que “normalmente identificam conteúdo que foi inteiramente gerado por IA em vez de conteúdo que foi modificado apenas com IA”.
Sério, o que a IA sinaliza é Meta realmente procurando? As empresas muitas vezes ocultam detalhes exatos de seus sistemas de moderação para evitar que malfeitores manipulem o sistema, mas no momento, os usuários comuns estão razoavelmente confusos.
O único sinal que eu definitivamente sei que atualmente fará com que o Instagram aplique um rótulo de conteúdo de IA é aquele aplicado pelos próprios sistemas de IA generativos do Meta. Fiz meus próprios testes com a maioria das ferramentas acima, enviando fotos que foram editadas usando o removedor de fundo do Canva, a ferramenta de apagamento de fundo do Photoshop, os recursos de IA generativos Firefly da Adobe, o modelo Nano Banana do Google no Gemini e os recursos de inteligência da Apple para iOS. Alguns foram totalmente gerados e confirmei que vários deles incluíam sinais C2PA e SynthID. No meu caso, porém, Meta não rotulou nada disso.
Postei as fotos em uma nova conta do Instagram que configurei com o mínimo de informações e as publiquei em rápida sucessão. Eu não poderia ter me esforçado mais para agir como um bot ou farm de IA, o que você pensaria que seria o principal candidato ao que Meta deveria estar procurando. No entanto, mesmo depois que o Meta anunciou repressões às contas de IA na semana passada, ele não foi marcado como um perfil gerado por IA, nem as fotos foram rotuladas na época. Neste ponto, eles estão ao vivo e totalmente públicos há quase duas semanas.
Os resultados me deixaram questionando se havia é qualquer sentido em como Meta está aplicando tags “AI Content”. Eles deveriam tornar mais fácil confiar no que você vê no Instagram, mas, neste momento, eu nem confiaria nos próprios rótulos.
