AI Search é executado em dois sistemas de memória. As plataformas não os utilizam da mesma maneira

AI Search é executado em dois sistemas de memória. As plataformas não os utilizam da mesma maneira


Faça a mesma pergunta sobre sua marca em quatro mecanismos de IA diferentes e você provavelmente receberá quatro respostas diferentes. Uma resposta é atual e cita sua página mais recente. Outro descreve um posicionamento que você se aposentou há 18 meses e não cita absolutamente nada. Um terceiro encaminha tudo através do posto de comparação de um concorrente. A mesma marca, a mesma pergunta, quatro representações e as lacunas entre elas não são ruídos aleatórios que você pode descartar como uma peculiaridade do modelo. Eles são estruturais e, uma vez que você possa ver a estrutura, poderá planejá-la.

Afirmei em “Quando o corte dos dados de treinamento se torna um fator de classificação” que sua marca agora vive em dois sistemas de memória diferentes ao mesmo tempo. Uma delas é a memória paramétrica, o conhecimento incorporado a um modelo durante o treinamento e depois congelado até a próxima execução do treinamento. A outra é a recuperação, o conteúdo extraído no momento em que alguém pergunta. Esse artigo era sobre o que a distinção significa para o tempo. Esta é sobre a parte que deixei deliberadamente para seu próprio tratamento, que é que os motores não se apoiam nessas duas memórias da mesma maneira, e essa diferença é o que realmente molda onde sua marca aparece e como ela é lida quando chega lá.

Todo motor tem uma postura de memória

Deixe-me dar um nome à coisa, porque nomeá-la torna mais fácil planejar. Um LLM postura de memória é seu padrão lean: quando você pergunta algo, ele busca recuperação ao vivo ou responde com base no que já contém em seus parâmetros? As plataformas são classificadas em dois campos amplos, e o campo em que o mecanismo se enquadra determina quase tudo sobre como seu conteúdo chega ao usuário por meio dessa superfície.

De um lado estão os mecanismos que recuperam quase todas as consultas. A perplexidade é o caso mais claro; ele executa uma pesquisa ao vivo na web sobre essencialmente todas as questões e mostra suas fontes por design, e não como uma exceção. As visões gerais de IA e o modo de IA do Google também se baseiam na recuperação, mas com uma ruga que vale a pena entender: essas superfícies são atendidas pelo mesmo rastreador que alimenta os resultados orgânicos, extraindo do índice principal do Search e não da memória paramétrica do Gemini. O token que o Google oferece para controlar o treinamento do modelo, Google-Extended, não tem efeito sobre o que aparece na Pesquisa ou em seus recursos de IA. Portanto, nos mecanismos de recuperação sempre, sua visibilidade é primeiro uma questão de recuperação e quase nenhuma questão paramétrica.

Do outro lado estão os motores que decidem por consulta. ChatGPT, Claude, Microsoft Copilot e o aplicativo Gemini fazem um julgamento sobre cada pergunta: responda a partir dos parâmetros ou vá buscar. A pesquisa na web de Claude funciona como uma ferramenta que o modelo escolhe invocar quando decide que a questão precisa dela. O Copilot se baseia na Web apenas quando está ativado e o prompt é beneficiado, e quando um administrador desativa o aterramento na Web, ele recorre inteiramente ao treinamento interno do modelo. Esse último detalhe é a ponte de volta para “Parar de tratar a visibilidade da IA ​​como um problema”, onde a recuperação era uma das três camadas que uma equipe deveria governar. Aqui está essa camada interna: em um mecanismo decidido por modelo, se a recuperação acontece pode ser uma configuração no console de administração de alguém, não uma propriedade do seu conteúdo.

E a postura nem sequer é estável dentro de um único motor. Um estudo de fluxo de cliques do ChatGPT descobriu que a parcela de sessões que acionaram uma pesquisa na web oscilava entre cerca de 15 e 66% na janela do estudo, mudando à medida que os modelos subjacentes eram atualizados. A mesma pergunta que você fez em março pode ser respondida de memória e, em abril, acessar a web ao vivo, sem nada alterado para você. A postura é um alvo móvel, e é exatamente por isso que você deve medi-la em vez de assumi-la.

A recuperação deixou de ser uma única etapa

Mesmo quando um mecanismo é recuperado, a recuperação não é mais uma ação limpa, e é aqui que muitos dos antigos instintos de otimização quebram silenciosamente. O modelo de passagem única, onde um sistema incorpora sua consulta, captura o punhado de páginas correspondentes e gera, deu lugar à recuperação de agente que planeja e executa muitas subconsultas antes de responder. Uma pergunta que o usuário digitou torna-se um fã das perguntas que o sistema faz em seu nome, de algumas a dezenas. Você não está mais otimizando apenas para a pergunta na caixa de pesquisa. Você está otimizando as questões invisíveis que o mecanismo gera para satisfazê-lo.

Há um problema de segunda ordem em camadas, e vale a pena enunciá-lo claramente, mesmo que algum dia ele mereça seu próprio pedaço. Ser puxado para o contexto não é o mesmo que ser bem usado. A pesquisa que primeiro documentou como os modelos usam o contexto longo de forma desigual já tem quase uma década, e os modelos atuais resolveram em grande parte a versão simples, encontrando um fato enterrado em um longo documento. O que permanece pouco confiável é o mais difícil: integrar vários sinais dispersos em uma imagem coerente. Sua marca nunca é um fato único. Sua representação depende do mecanismo reunir suas páginas, seus comentários e cobertura de terceiros que ficam em diferentes lugares do material recuperado e, em seguida, montá-los corretamente. Essa etapa de montagem ainda apresenta perdas, o que significa que “estamos sendo recuperados” e “estamos sendo representados com precisão” podem ser medidos e podem discordar.

O tempo se tornou uma alavanca que você não costumava ter

A memória paramétrica introduz uma variável que simplesmente não existia na era tradicional do SEO: a janela de treinamento. Você não pode editar o que um modelo já contém em seus parâmetros. Publicar uma correção hoje não altera em nada a versão da sua marca codificada em um modelo que terminou o treinamento no verão passado. A única coisa que altera a memória paramétrica é uma nova execução de treinamento, o que significa que a questão útil não é como consertar o que o modelo já acredita, mas o que o modelo aprenderá sobre você na próxima vez que treinar e se a versão correta da sua história é aquela que ele encontrará.

Isto é menos desesperador do que parece, por duas razões. Primeiro, a memória paramétrica não é uma caixa preta sobre a qual você não tem influência. Os modelos aprendem a versão de um fato que aparece de forma consistente e corroborada em muitas fontes, então o trabalho é tornar a versão precisa da sua história redundante, a versão que é difícil de perder quando os rastreadores passam. Esse é um jogo longo, medido em gerações de modelos, e não em edições de páginas, mas é um jogo que você pode jogar. Em segundo lugar, a cadência de treino já não é um evento anual lento. Os principais fornecedores agora enviam lançamentos pontuais frequentes, cada um com seu próprio corte, de modo que a camada paramétrica é atualizada em etapas que você pode realmente mirar, em vez de um único horizonte distante. Algumas das inconsistências que as equipes continuam sinalizando, o mesmo mecanismo dando respostas diferentes em dias diferentes, está em ação: um dia a pergunta foi extraída dos parâmetros, no outro acionou a recuperação e as duas camadas não estavam contando a mesma história.

Um fluxo de trabalho para descobrir onde você realmente está

Você pode fazer isso manualmente hoje, sem nenhuma ferramenta especial, o que é o ponto principal. Se você entender as duas memórias, poderá ler o que qualquer motor está fazendo com sua marca. Chame-o a auditoria de postura de memória.

  • Escolha as consultas que pagam. Não o nome da sua marca por si só, mas as perguntas que um comprador realmente faz onde você precisa aparecer: as perguntas da categoria, as comparações, as que abordam o problema. Um punhado, vinculado à receita.
  • Execute cada um em uma propagação deliberada. Pelo menos um mecanismo de recuperação sempre e pelo menos dois modelos decididos, usando sempre palavras idênticas, de modo que a única variável é a plataforma.
  • Leia a postura, não apenas a resposta. As citações são o que diz. Fontes citadas ao vivo significam recuperação disparada; uma resposta confiável sem fontes veio da memória paramétrica. Nos motores decididos pelo modelo, faça cada pergunta duas vezes, uma vez em frase simples e perene e outra com uma dica de atualidade como “mais recente” ou “atual”, e observe se a segunda versão coloca o mecanismo em recuperação. Essa mudança é a postura se revelando.
  • Classifique o que está errado pela memória que o produziu. Fatos obsoletos sem citação apontam para um problema paramétrico. Totalmente ausente, ou representado através da página de um concorrente em um mecanismo que claramente recuperou, aponta para um problema de seleção de recuperação. Na saída, os dois podem parecer quase idênticos. Eles não são o mesmo defeito.
  • Corrija a camada que está realmente quebradaporque as correções não transferem:
    • Um problema paramétrico não pode ser editado diretamente. Você influencia a próxima janela de treinamento ao obter conteúdo consistente, corroborado e rastreável agora, de modo que a versão correta de sua história seja aquela que será aprendida.
    • Um problema de recuperação é o trabalho de localização e seleção: responda diretamente às subquestões de distribuição, estruture suas páginas para extração limpa e fortaleça a corroboração em fontes de terceiros para que sua versão seja aquela que será reunida na resposta.
  • Data e repita. A postura não é estável, portanto, uma auditoria única é um instantâneo, não uma descoberta. Coloque-o em uma cadência, pelo menos trimestralmente.

O que deixa a questão que vale a pena considerar

A maioria das equipes que otimizam a visibilidade da IA ​​estão trabalhando duro em um sistema de memória e tratando o outro como se ele não existisse, geralmente sem nunca terem decidido qual deles escolheriam. A disciplina que isso exige é pequena para descrever e desconfortável para praticar: para cada motor que é importante para você, conheça sua postura, saiba qual memória está carregando sua marca ali e saiba se essa é a camada que você teria escolhido propositalmente.

Aquilo é a questão da camada de memóriae a maioria das equipes ainda não consegue responder, o que já é o diagnóstico. Ele também expõe por que uma única pontuação de visibilidade de IA é um erro de categoria. Um número que resume a posição paramétrica e a posição de recuperação em uma figura é a média de duas coisas que se movem de forma independente, recompensam trabalhos diferentes e falham de maneiras diferentes. Você não pode gerenciar o que você achatou. A alfabetização que importa agora é a capacidade de manter as duas camadas separadas em sua cabeça e perguntar, sempre, para qual delas você está realmente olhando.

Se você executou uma versão disso em sua própria marca, gostaria de saber o que você descobriu, especialmente onde uma plataforma o surpreendeu. Deixe um comentário ou entre em contato.

E se você quiser um argumento mais longo sobre por que visibilidade, confiança e legibilidade por máquina estão se tornando o mesmo problema, esse é o assunto do meu livro, A camada da máquina.

Mais recursos:


Esta postagem foi publicada originalmente em Duane Forrester Decodes.


Imagem em destaque: Summit Art Creations/Shutterstock



Source link

Postagens Similares

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *