A atualização de spam do Google agora alcança respostas de IA. A aplicação é difícil
O Google começou a lançar a atualização de spam de junho, a segunda do ano. Ele impõe políticas de spam documentadas, e uma dessas políticas agora cobre mais áreas do que antes.
As regras de spam do Google tratam as tentativas de “manipular respostas generativas de IA” na Pesquisa como uma violação, e essa é uma das políticas que a atualização está aplicando.
Uma pré-impressão da Cornell Tech obtida pela 404 Media explica por que a política é mais difícil de aplicar do que seu texto sugere. As páginas da comunidade nas quais os agentes de pesquisa de IA se apoiam também podem conter comentários de terceiros, e um comentário pode plantar uma recomendação que o autor nunca escreveu.
O que o Google rotula de spam, portanto, passa pela própria recuperação da qual esses agentes dependem. E a pesquisa descobriu que todas as defesas óbvias apresentam desvantagens.
Para qualquer pessoa que esteja tentando levar uma marca a respostas geradas por IA, saiba que a linha entre otimização e spam está sendo redesenhada.
As apostas
O rastreamento do Modo AI pelo SE Ranking descobriu que o Google aponta cada vez mais para suas próprias propriedades, com autocitações de até cerca de um quinto das citações do Modo AI em seu último relatório.
Com mais citações apontando para o Google e menos para sites externos, a atração para fabricar um aumenta proporcionalmente.
Um mercado cinza já começou a se formar, e os autores de Cornell apontam que os profissionais de marketing estão ocupados testando maneiras de estimular as respostas geradas pela IA.
Enquanto isso, as empresas não têm os dados necessários para ver o que está acontecendo. Conforme apresentado em nossa cobertura anterior sobre pesquisa de agentes, nenhum painel informa a um site se ele recebeu uma resposta de IA, foi citado em um relatório gerado ou foi ignorado.
O resultado é uma violação que o Google pode nomear, mas o site envolvido muitas vezes não consegue ver.
O que a pesquisa descobriu
O artigo, intitulado “Agentes de pesquisa profunda podem ser envenenados por meio de conteúdo gerado pelo usuário”, que não foi revisado por pares, investiga um ponto fraco na forma como as ferramentas de pesquisa de IA coletam suas fontes. Essas ferramentas respondem a uma pergunta disparando um lote de subconsultas relacionadas, capturando as páginas que aparecem nelas e montando um relatório com citações.
A análise revelou as mesmas páginas da comunidade aparecendo repetidamente nessas subconsultas. Dentro de um único cluster de tópico, uma página gerada pelo usuário apareceu em até 48% das consultas, e as plataformas geradas pelo usuário representaram 17% a 23% de cada URL recuperada. Altere uma dessas páginas recorrentes e a mudança poderá afetar os relatórios de um tópico inteiro.
Os autores descobriram que cerca de 13 palavras de texto plantadas em uma página recorrente foram suficientes para inserir a entidade escolhida pelo invasor no relatório final em 38% a 51% das sessões que recuperaram a página.
Espalhe o mesmo texto por algumas páginas e o número subirá para 42% a 62%. Mesmo enterrado em uma página inteira, onde representava menos de 4% do que o agente leu, o texto plantado ainda apareceu em 30% a 53% das sessões.
Três agentes de pesquisa de código aberto realizaram os testes, STORM, Co-STORM e OmniThink, todos executados em uma simulação para que nada na web ao vivo fosse tocado.
Onde a aplicação é difícil
O Google pode rotular a manipulação de respostas de IA como spam e agir de acordo com o que detecta. Pegá-lo é a parte difícil. O texto plantado parece um conselho real e fica nas mesmas páginas que as ferramentas sempre leriam, então diferenciá-lo de uma postagem normal é o principal problema.
A equipe de pesquisa procurou uma defesa contra o texto plantado, mas não encontrou nenhuma. Eles tentaram eliminar as fontes geradas pelos usuários, examinando-as com um modelo de linguagem antes do uso e vasculhando o relatório final em busca de afirmações que não se sustentavam.
Nenhum dos três interrompeu o ataque sem piorar os resultados para o usuário. Abandone as fontes geradas pelo usuário e você perderá os detalhes da comunidade que fazem valer a pena usar as ferramentas de pesquisa de IA.
As ferramentas que a maioria das pessoas usa ficam fora desse teste. ChatGPT Deep Research e Gemini Deep Research executam recuperação que os pesquisadores não poderiam envenenar sem cruzar uma linha ética, então eles apenas mediram hábitos de citação. Gemini se baseou em conteúdo gerado pelo usuário 12,1% das vezes, o que os autores chamam de um indício de exposição, não de um resultado testado. A ferramenta da OpenAI alcançou muito menos.
Por que isso é importante para profissionais de pesquisa
Os movimentos que podem ajudar a levar uma marca às respostas de IA são semelhantes às táticas de manipulação que o Google chama de “spam”, como plantar menções nos sites que essas ferramentas leem. Não sabemos onde fica o limite do Google entre ganhar uma menção e projetar uma.
Para o comércio eletrônico e marcas locais, o perigo vem na outra direção.
Os casos de teste foram as perguntas comuns que as pessoas perguntam, como para qual serviço ligar, que produto comprar e onde comer. Um rival ou golpista pode inserir um nome desconhecido nessas respostas, bem ao lado das opções legítimas, e a marca excluída nunca saberá disso.
Para editores de notícias e marcas maiores, a preocupação é confiar na resposta que seu nome traz. Uma citação de uma ferramenta de IA é vista como uma vitória, mas uma citação reflete apenas o que a ferramenta obteve, não se a página estava certa, e a resposta pode ser orientada por conteúdo que a marca nunca escreveu.
Não há uma solução clara para tudo isso. A visibilidade da IA tornou-se uma superfície que você monitora ativamente, não apenas um canal que você otimiza passivamente.
Olhando para o futuro
Os autores chamaram a manipulação gerada pelo usuário de um problema aberto que nenhuma plataforma pode resolver sozinha. O Reddit sinalizou sua luta de longa data contra a manipulação coordenada, e o Google inseriu rótulos de contexto em alguns materiais de origem do Reddit nas visões gerais de IA. Nenhum deles toca na concentração de recuperação para a qual o artigo aponta.
O Google não indicou como pretende impor a manipulação de IA generativa, seja por meio de uma atualização dedicada ou por meio de seu sistema SpamBrain e revisões manuais das quais depende para a maioria das violações.
Por enquanto, a política considera o comportamento fora dos limites, e a verificação das respostas da IA ainda cabe a quem as está lendo.
Mais recursos:
Imagem em destaque: Torça-J-ane/Shutterstock
