Microsoft Web IQ oferece aos agentes de IA APIs Bing Grounding
A Microsoft anunciou o Web IQ, um conjunto de APIs básicas que permitem aos agentes de IA extrair informações do índice de pesquisa do Bing.
A empresa chama o Web IQ de “um mecanismo de busca para sistemas de IA”. Enquanto o Bing ajuda as pessoas a encontrar páginas da web, o Web IQ ajuda os agentes de IA a encontrar informações que podem usar enquanto raciocinam em uma tarefa.
O que o Web IQ faz
O Web IQ usa uma pilha de recuperação reconstruída com base no índice do Bing, redesenhando a forma como o conteúdo é indexado, classificado e selecionado. Os agentes de IA pesquisam repetidamente sob restrições de tempo em várias etapas.
A API retorna passagens e “objetos de evidência estruturados” em vez de páginas da web completas, de modo que os modelos de IA recebem apenas as partes úteis de uma página. Cada token que um modelo de IA processa custa dinheiro e adiciona latência, portanto, menos tokens com melhores informações significam respostas mais baratas e mais rápidas.
A Microsoft resume isso como “menos entrada de tokens, melhores respostas, menor custo por chamada”.
Reivindicações de desempenho
A Microsoft usa GDSAT (satisfação básica) para medir se as informações são atualizadas e confiáveis. Eles afirmam que as pontuações do Web IQ são superiores às dos concorrentes, com base em 3.000 exemplos de consultas.
A empresa reporta tempos de resposta inferiores a 165 ms no P95, quase 2,5 vezes mais rápidos que os concorrentes, com base em testes em cinco data centers.
Sobre a eficiência dos tokens, a Microsoft relata que o Web IQ oferece a mesma qualidade com menos tokens à medida que o volume de resultados aumenta.
Controles do editor
O Web IQ segue as mesmas regras de exclusão de robôs e preferências de editores que o Bing já respeita. A empresa também está trabalhando com a IETF e outros grupos da indústria em padrões sobre como os sistemas de IA acessam o conteúdo da web.
Detalhes técnicos
O Web IQ usa o modelo de incorporação de código aberto da Microsoft para encontrar conteúdo relevante e modelos adicionais para classificar e selecionar passagens.
De acordo com o anúncio, esses modelos são treinados para saber como serão usados no raciocínio de IA, e não para pontuações de benchmark independentes.
Para pesquisas rápidas em escala, o sistema amplia o DiskANN, a tecnologia da Microsoft para pesquisar grandes índices sem carregar tudo na memória.
Por que isso é importante
A Microsoft está se esforçando para isso. As Ferramentas do Google para webmasters adicionaram dados de citações de IA em fevereiro, mapearam consultas básicas para páginas citadas em março e visualizaram o Citation Share na SEO Week. Essas ferramentas mostram aos editores como os sistemas de IA usam seu conteúdo, e o Web IQ é o outro lado disso. É o que os sistemas de IA usariam para extrair o conteúdo em primeiro lugar.
No Web IQ, as informações são retornadas como passagens em vez de páginas inteiras. O que torna uma classificação de página bem na pesquisa tradicional e o que torna uma passagem útil para fundamentação pode não se sobrepor, como a própria postagem da estrutura de fundamentação da Microsoft descreveu no início deste ano.
Olhando para o futuro
O Web IQ está aceitando manifestações de interesse, mas não anunciou disponibilidade geral, preços ou quais plataformas de IA o utilizarão. A Microsoft não disse se a base existente do Copilot ou do Bing Chat usa o Web IQ ou se o Web IQ é separado desses sistemas.
