Todo mundo está citando o mesmo número e obtendo respostas diferentes


A proporção de rastreamento para referência da Antrópico foi relatada como 70.900 para um, 38.000 para um, 23.951 para um, 11.122 para um, 10.300 para um, 4.580 para um e 2.237 para um. Cada um desses números é atribuído à Cloudflare. Cada um foi publicado em cerca de 13 meses. Dois deles afirmam ser o mesmo mês e diferem aproximadamente por um fator de 17.

Se rastrear para consultar não for um número que você rastreia, toda a ideia cabe em um parágrafo. Toda empresa de IA executa rastreadores que buscam páginas do seu site. Algumas dessas plataformas também enviam visitantes quando uma pessoa lê uma resposta e clica na fonte abaixo dela. A proporção compara os dois. Quantas páginas uma plataforma ocupou, em comparação com quantas pessoas ela enviou de volta. Cinco para um significa que ele buscou cinco páginas e retornou um visitante. Setenta mil para um significa que buscou setenta mil e devolveu um.

Existe porque o antigo acordo quebrou. Um rastreador de busca pegava suas páginas e enviava tráfego em troca, e esse comércio era a base econômica para publicar qualquer coisa na web aberta. Os sistemas de IA respondem no local, de modo que a captura continuou e o envio de volta em grande parte não. A proporção é a expressão mais clara de quão desequilibrada essa troca se tornou, e é por isso que ela se espalhou rapidamente, apareceu nos tabuleiros e começou a conduzir decisões reais sobre quais rastreadores passariam pela porta.

Também ainda está crescendo. O Google disse em sua conferência de desenvolvedores de maio que o AI Mode ultrapassou um bilhão de usuários mensais e que suas consultas “mais que dobraram a cada trimestre desde o lançamento”, apresentadas como uma história sobre utilidade, e não sobre para onde essas respostas param de enviar as pessoas. Tenha essa segunda figura em mente. Dobrar a cada trimestre sem base declarada é uma taxa de crescimento que você não pode usar. Esse é o mesmo problema de que trata este artigo, dentro de um anúncio que define sua escala.

O pensamento óbvio com o desequilíbrio é que alguém foi descuidado ou estava girando. Essa leitura está errada e é mais confortável do que o que aconteceu. A Cloudflare publicou uma métrica clara, documentou o método na íntegra e divulgou suas próprias limitações na postagem que o apresentou. Os números ainda estão espalhados em uma ordem de grandeza, porque uma proporção é um numerador sobre um denominador, e este tem quatro denominadores empilhados dentro dele que quase ninguém leva adiante ao citar o número.

O método não é onde isso quebra

Na semana passada, escrevi sobre conteúdo de fornecedores citando fontes que não existiam. Esta é a versão mais difícil do mesmo problema, e quero deixar claro a diferença desde o início. Aqui, todas as fontes são reais, o editor é confiável e a documentação é pública. A falha aconteceu de qualquer maneira.

A Cloudflare introduziu a taxa crawl-to-refer em julho de 2025 e declarou o cálculo claramente. Pegue o total de solicitações de agentes de usuários associados a uma determinada plataforma onde a resposta foi HTML. Divida isso pelo total de solicitações de conteúdo HTML em que o cabeçalho Referer continha um nome de host associado a essa plataforma. Normalize para uma única referência. Essa é a fórmula completa, publicada, inequívoca e reproduzível por qualquer pessoa com logs de servidor.

Eles também publicaram as partes que prejudicam sua própria métrica, o que é mais do que a maioria das empresas faz. O que se segue é o que acontece com um número bem construído depois que ele sai do prédio.

4 denominadores vestindo 1 casaco

O primeiro denominador é a janela. Na postagem de lançamento da Cloudflare, o período de amostragem foi de 19 a 26 de junho de 2025, uma semana, e o Anthropic saiu em 70.900 para um, enquanto o Mistral saiu em 0,1 para um, enviando 10 referências para cada solicitação de rastreamento. Em uma postagem separada no mesmo mês, o número de junho de 2025 para a Anthropic é de 73.000 para um, com OpenAI de 1.700 para um e o Google rastreando cerca de 14 vezes por referência. Mesma editora, mesmo mês, janelas diferentes, números diferentes. A jusante, você agora encontra números trimestrais, números mensais, números contínuos de 28 dias e números de uma semana circulando lado a lado como se fossem a mesma medida.

Quanto importa a janela? A Cloudflare relatou que a proporção do Google subiu 19,4% semana após semana, atribuindo isso a uma queda no rastreamento do GoogleBot que começou em um dia específico. Uma decisão de agendamento de rastreamento aumentou o número publicado em um quinto em sete dias. Dois analistas que escolhem janelas diferentes de boa fé produzirão respostas diferentes e ambos estarão certos.

A segunda é qual bot você contou. A Cloudflare afirma que o rastreador de treinamento de uma plataforma e seu rastreador de solicitação de usuário, operando sob diferentes agentes de usuário, são agregados sob um único nome de plataforma para análise. Esses dois comportamentos não têm nada em comum. Consome-se em grande escala e não se retorna nada intencionalmente. O outro busca sob demanda e pode produzir uma citação. Juntas, a figura da plataforma não descreve nenhuma das duas coisas. Isso também torna a comparação padrão com o Google estruturalmente inadequada, porque alguns operadores executam frotas de rastreadores com finalidades divididas e outros executam frotas unificadas, de modo que o agregado mede um tipo diferente de objeto em cada lado.

O terceiro são os sites de quem. A Cloudflare vê o tráfego que atravessa a Cloudflare. Essa é uma amostra enorme e ainda uma amostra, ponderada pelas propriedades que estão por trás dela. Quando um analista mediu a mesma métrica em relação à rede da Cloudflare e ao seu próprio painel comercial menor no mesmo período, a proporção de uma plataforma praticamente dobrou. A composição do painel por si só o moveu.

O quarto é o que importa

O denominador não são referências. São referências que se anunciaram.

Uma referência só entra no cálculo se a solicitação contiver um cabeçalho Referer nomeando a plataforma. A Cloudflare diz diretamente que o tráfego referido pelo aplicativo nativo de Claude não inclui esse cabeçalho, que eles acreditam que o mesmo se aplica aos aplicativos nativos de outros provedores e que, como as contagens de referência capturam apenas as ferramentas baseadas na Web, os cálculos podem exagerar as proporções. Suas palavras sobre o tamanho dessa distorção: Não está claro até que ponto.

Leia isso novamente. A empresa que publica a métrica afirmou, no post que a anuncia, que falta ao denominador uma quantidade desconhecida do que deveria contar, em plataformas cuja utilização acontece cada vez mais exatamente no local onde não é contabilizado. Isso não é uma nota de rodapé. É uma afirmação de que a métrica tem uma barra de erro que ninguém consegue dimensionar, divulgada pela única parte posicionada para saber.

Uma quinta decisão mostra quanto julgamento reside dentro de uma fórmula simples. A Cloudflare exclui o tráfego de referência da própria rede do Google, alegando que a pré-busca impulsionada por regras de especulação não é uma pessoa que consome conteúdo. Isso é defensável. É também uma decisão, e outro analista poderia fazer diferente e produzir uma figura diferente do Google sem estar errado.

O que é removido na descida

Assim existiam as advertências, publicadas em linguagem simples pela fonte no momento do lançamento. Quando esses números chegam ao slide em uma revisão trimestral, nenhum deles está anexado.

Não estou nomeando as análises das quais tirei esses sete números. O padrão importa e os editores não, e a maioria deles estava resumindo de boa fé. O mecanismo é o que vale a pena descrever, porque não é fraude e não é realmente erro. Cada recontagem comprime. A primeira elimina a advertência do aplicativo nativo porque complica o título. O segundo elimina a janela porque o número é mais citável sem um intervalo de datas anexado. O terceiro lê o segundo, vê uma figura limpa com uma atribuição credível e repete-a. A quatro passos da fonte, você tem um número inteiro, o nome de uma empresa e total confiança.

Um desses sete trazia um aviso explícito de que os rácios estão vinculados a uma janela específica e nunca devem ser calculados em média entre períodos, e que os números eram reais e não universais. Aquele fez o trabalho corretamente. Ele aparece nos mesmos resultados de pesquisa daqueles que não apareceram, parecendo idênticos.

As decisões já dependem disso

Esta seria uma reclamação acadêmica se o número fosse decorativo. Não é. Os editores estão usando taxas de rastreamento para referência para decidir quais rastreadores de IA permitir e quais bloquear, que é o que a Cloudflare construiu a métrica para suportar e um uso razoável dela. As equipes de marketing estão usando os mesmos números para argumentar que não vale a pena buscar o tráfego de referência de IA. Ambas as decisões são difíceis de reverter, porque todos sabemos que, uma vez tomada uma decisão, é muito difícil trazê-la à tona e examiná-la novamente, por vários motivos.

Agora coloque os quatro denominadores contra isso. Se uma grande parte das referências de uma plataforma chega através de um aplicativo nativo que não envia nenhum cabeçalho Referer, a proporção exagera o desequilíbrio em uma quantidade que ninguém quantificou. Se a figura combinar um rastreador de treinamento com um rastreador de solicitação do usuário, você poderá estar bloqueando aquele que poderia ter citado você para impedir aquele que nunca o faria. Se veio de uma janela onde o operador estava executando um treinamento pesado, você está transformando um pico temporário em uma política semipermanente.

O spread deve deixar qualquer um cauteloso ao agir com base em um único valor. Na mesma semana, uma plataforma mediu perto de 70.900 para um; outro mediu 0,1 para um, enviando 10 referências para cada página solicitada. Essa não é uma diferença de arredondamento entre uma categoria. Estes rácios descrevem decisões individuais de produtos em empresas individuais em momentos individuais, e tratar qualquer um deles como uma propriedade estável de uma plataforma é um erro de categoria.

O que isso realmente exige de você

A ideia geral é desconfortável porque se aplica muito além das proporções do rastreador e se aplica a números em que você pode acreditar atualmente.

Uma figura sem janela, agrupamento e limite de coleção não é uma figura. É uma forma que se assemelha a uma. Essas três coisas não são advertências associadas ao número; são eles que o constroem, e um número separado deles não foi simplificado. Ele foi inutilizado e ainda parece utilizável, o que é pior do que estar obviamente errado, porque números obviamente errados são desafiados na sala.

O que lhe dá um teste que não custa nada e desqualifica rapidamente. Quando alguém lhe entregar uma medição, pergunte qual período ela abrange, o que foi agrupado para produzi-la e onde parou a coleta. Para não ser difícil. Se essas três respostas não estiverem imediatamente disponíveis, quem está segurando o número também não sabe o que ele significa, e vocês dois estão prestes a decidir algo com base na força de uma forma.

Eu estenderia isso para uma categoria inteira. Estamos em um momento em que muitas empresas estão enviando produtos de medição para visibilidade de IA, e eu sou uma delas, então avalie isso de acordo. Aqueles que valem o seu dinheiro lhe dirão sua janela, seu agrupamento e seus limites sem serem questionados, como fez o Cloudflare. Aqueles que não o farão estão pedindo que você confie em um número que eles não definiram. A Cloudflare divulgou todos os três, e o ecossistema ainda conseguiu perdê-los na transmissão. Um fornecedor que nunca os divulga nem sequer está lhe dando algo a perder.

A questão a ser feita não é se um número é preciso. A maioria dos números neste artigo são precisos (até onde posso determinar). É se você sabe o que o número contou e o que não pôde.

Se você se deparou com uma métrica neste espaço que desmoronou quando você perguntou o que estava no denominador, deixe um comentário ou entre em contato diretamente. Gostaria de ver mais exemplos disso, e os específicos são mais úteis do que o argumento geral.

Mais recursos:


Esta postagem foi publicada originalmente em Duane Forrester Decodes.


Imagem em destaque: voronaman/Shutterstock



Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo