O Google implantou um novo detector de spam de IA chamado SAFE

O Google publicou um artigo de pesquisa sobre a detecção de spam que imita uma revisão manual humana que detecta conteúdo que viola o “espírito” das violações de políticas e diretrizes da plataforma. O sistema é chamado Scaled Abuse Forensics Examiner (SAFE) e é expressamente projetado para identificar conteúdo gerado por IA.

O papel é opaco e retém informações

O artigo de pesquisa tem apenas 3 páginas e omite deliberadamente detalhes. Para um trabalho de pesquisa, é incomumente guardado, até mesmo secreto.

Ele revela que possui um design de vídeo sintético e abuso de canal, mas também possui um componente de análise de conteúdo e usa incorporações semânticas multimodais. Também faz referência ao problema dos padrões de envolvimento não humanos: “A proliferação de bot-nets e de campanhas adversárias coordenadas necessita de métodos robustos para identificar padrões de envolvimento não-humanos.”

O resumo (introdução) e o restante do artigo tendem para o vídeo, mas ele usa repetidamente frases como “mídia sintética”, conteúdo sintético, “mídia sintética adversária” e “sinais multimodais”. No entanto, o artigo nunca identifica o SAFE exclusivamente como um sistema de detecção de vídeo, e isso diz algo porque o artigo discute a análise de artefatos de conteúdo generativo, particularmente o uso de incorporações semânticas multimodais.

Google está se concentrando em IA

Este é o segundo sistema do Google identificado em 2026, projetado para capturar spam gerado por IA. O sistema identificado anteriormente é denominado Scalable Cluster Termination System (S-CTS). O fato de o Google estar dedicando recursos para capturar resíduos de IA mostra que o Google está preocupado com o conteúdo de spam de IA. Esses sistemas podem ser um componente da atualização de spam de setembro.

A IA permite que redes abusivas produzam conteúdo sintético em massa, ao mesmo tempo que o ajusta sistematicamente para evitar os sistemas de detecção tradicionais. Os seres humanos podem encontrar redes de spam coordenadas examinando relacionamentos, comportamento, conteúdo e até mesmo diminuir o zoom para examinar a infraestrutura, mas as inspeções manuais não são escalonadas com rapidez suficiente para acompanhar a enorme escala de lixo gerado pela IA.

Este novo sistema foi concebido para colmatar essa lacuna. O artigo de pesquisa é intitulado, A lacuna sintética: automatizando a investigação forense de “desperdício de IA” com o abuso escalonado
Examinador Forense (SAFE).

O artigo de pesquisa explica:

“Os fluxos de trabalho forenses tradicionais, que dependem fortemente do reconhecimento manual de padrões e da análise de metadados, estão mal equipados para lidar com este volume. A “lacuna sintética” – o tempo entre o surgimento de um novo vetor de ataque generativo e a implantação de uma contramedida continua a ser uma vulnerabilidade crítica.”

Identifica violações do espírito de política

O artigo diz que o SAFE identifica violações do “espírito da política” principalmente com um LLM treinado em poucos tiros. O objetivo do SAFE é capturar conteúdo que pode não corresponder a uma regra existente ou a um padrão de violação conhecido, mas que ainda viola a intenção da política ou diretriz da plataforma e pode passar despercebido pelos classificadores tradicionais e modelos de detecção de violação ajustados.

O sistema SAFE foi implantado

O artigo de pesquisa é muito secreto, tem apenas três páginas e menciona ter testado o sistema, mas não compartilha os resultados dos testes. Isso é altamente incomum e mostra como o Google está mantendo o público no escuro sobre o SAFE. Mas compartilha que o sistema foi implantado.

O artigo explica:

“Os primeiros resultados da implantação indicam que o SAFE acelera significativamente a identificação de novas ameaças sintéticas, reduzindo o tempo de investigação forense em comparação com fluxos de trabalho humanos no circuito.”

Três fundamentos técnicos do SAFE

A seção “background” do documento de pesquisa SAFE descreve três pilares do sistema, mostrando por que combiná-los é útil para detecção escalonável de abuso sintético.

1. Detectando Comportamento Inorgânico
SAFE busca um comportamento coordenado que seja diferente da atividade humana normal. Ele analisa padrões, incluindo tempo (explosões de atividade), infraestrutura, comportamento de postagem e outros sinais compartilhados, incluindo sinais falsos de comportamento do usuário.

Esta parte do artigo explica:

“A proliferação de bot-nets e de campanhas adversárias coordenadas necessita de métodos robustos para identificar padrões de envolvimento não-humanos.”

2. Automatizando a perícia com sistemas multiagentes
O SAFE utiliza agentes de IA especializados para dividir o trabalho forense em tarefas separadas, com um agente orquestrador (agente raiz) que gerencia os outros agentes e faz a chamada final.

3. Compreensão de conteúdo baseado em transformador para aplicação de políticas
SAFE utiliza modelos baseados em transformadores para analisar o significado e o contexto do conteúdo, incluindo análise multimodal, e para identificar o espírito das violações das políticas.

SAFE usa agentes especializados de IA

O artigo identifica quatro agentes de IA:

• Agente raiz (o orquestrador)
• Agente de compreensão de conteúdo (detecção de artefato sintético)
• Agente de compreensão de comportamento (reconhecimento de padrões inorgânicos)
• Agente de compreensão do cluster de canal

Agente raiz (o orquestrador)

O Root Agent coordena a investigação. Atribui tarefas aos agentes especializados, analisa as suas conclusões e depois utiliza as evidências combinadas de todos os agentes para chegar a uma conclusão final.

Agente de compreensão de conteúdo (detecção de artefato sintético)

Este agente analisa o conteúdo em busca de sinais de abuso gerado por IA e violações de políticas. Ele usa métodos baseados em LLM para detectar violações conhecidas, formas emergentes de abuso, padrões e conteúdo que podem escapar dos classificadores existentes e, ao mesmo tempo, violar o espírito das políticas da plataforma.

Agente de compreensão de comportamento (reconhecimento de padrões inorgânicos)

Este agente procura um comportamento que se pareça com coordenação e não com atividade humana normal. Ele examina a infraestrutura e os padrões de tempo entre canais, como uploads sincronizados e publicação intermitente.

Agente de compreensão do cluster de canal

O Channel Cluster Understanding Agent usa um sistema de relacionamento baseado em gráfico para identificar conexões dentro de redes produtoras de spam. Analisa como os produtores de conteúdo podem fazer parte de uma rede, examinando a infra-estrutura partilhada para mapear o cluster mais amplo, ajudando a SAFE a identificar toda a operação coordenada, em vez de tratar cada nó como um caso isolado.

Remover

Alguns membros da comunidade SEO acreditam que o Google está usando a detecção de conteúdo por IA para identificar spam. Este artigo de pesquisa mostra que o que o Google está fazendo vai muito além disso. O Google está usando sistemas que vão além da simples detecção de conteúdo por IA e agora possui um sistema que vai além dos classificadores tradicionais. A SAFE se comporta como uma equipe humana de investigação forense, usando agentes especializados de IA para analisar conteúdo, comportamento, infraestrutura e relacionamentos com produtores de conteúdo para identificar redes de abuso sintético.

Imagem em destaque por Shutterstock/Gannvector