Google anuncia nova estrutura de distribuição de consultas: R4T-Diffusion

O Google anunciou uma nova estrutura de distribuição de consultas que é mais rápida, menos dispendiosa em termos computacionais e oferece distribuição de maior qualidade. Diz-se que o novo sistema oferece pesquisa “pronta para produção” em escala.

O novo sistema, chamado Retrieve-for-Train-Diffusion (R4T Diffusion Model), é uma configuração de três estágios que combina treinamento de aprendizagem por reforço (RL), geração de dados sintéticos e uma pequena rede neural generativa (uma difusão de parâmetros de 53,9M modelo).

O que eles fizeram foi treinar um modelo sobre a aparência do comportamento de distribuição de consultas computacionalmente caro, salvar exemplos de saídas de distribuição de consultas de alta qualidade e, em seguida, treinar um modelo significativamente menor para copiar o comportamento do modelo maior.

Por que os fan-outs de consulta R4T são melhores

O R4T gera melhores distribuições de consultas porque é treinado para identificar aspectos úteis da consulta de pesquisa original. Mantém os fan-outs relevantes para aquela consulta, mas com diversidade, pois evita a geração de sinônimos redundantes.

Os pesquisadores explicam que a ponderação do modelo durante o treinamento o otimiza:

“Para nossas tarefas abertas de recuperação abstrata, esta recompensa composta é um equilíbrio ponderado de três pilares concorrentes:

• Groundedness: Penaliza a distância até a variedade do banco de dados, garantindo que cada subconsulta gerada corresponda a um item real e recuperável no banco de dados.
• Diversidade: medida usando a pontuação de Vendi em todo o conjunto de subconsultas, forçando o modelo a explorar uma ampla amplitude semântica.
• Alinhamento: ancora subconsultas candidatas ao prompt amplo original para evitar desvios semânticos.”

Destilação de modelos maiores

O que os pesquisadores do Google fizeram foi usar uma abordagem chamada destilação. A destilação do conhecimento em redes neurais, uma ideia marcante que o ex-Googler Jeff Dean ajudou a criar em 2015, é a transferência do comportamento de um modelo grande para um modelo significativamente menor. Isso é feito treinando um modelo menor nas saídas de um modelo maior, dando ao modelo menor a capacidade de realizar praticamente tudo que o modelo maior pode fazer, mas com um custo computacional significativamente menor.

“Esmagou com sucesso o gargalo de latência”

A postagem do blog sobre este novo modelo de distribuição de consulta diz que é uma grande melhoria em relação aos métodos anteriores, descrevendo que ele “esmagou o gargalo de latência”. A latência neste contexto é uma referência ao tempo necessário para recuperar os fan-outs da consulta. O resultado é que eles são capazes de obter distribuição de consultas de alta qualidade com mais rapidez e menor custo computacional.

O anúncio do Google apresenta:

“Ao destilar esse comportamento aprendido no modelo de difusão Retrieve-for-Train de 53,9M parâmetros, eliminamos com sucesso o gargalo de latência. Como o modelo de difusão gera todas as direções do alvo simultaneamente em uma única passagem paralela não autorregressiva no espaço de incorporação contínua, ele oferece uma aceleração massiva de 12 a 20 em relação às abordagens autorregressivas.

Em escala, enquanto a latência de distribuição autoregressiva se expande linearmente para quase 50 segundos em grandes lotes de contexto, o Retrieve-for-Train-Diffusion permanece entre menos de um segundo e alguns segundos, fornecendo pesquisa de nível especializado, pronta para produção, por uma fração do custo computacional.”

A estrutura R4T é escalonável para uso no mundo real

O próprio artigo de pesquisa também explica que esta nova maneira de produzir fan-outs de consultas é prática, escalonável e relevante para “aplicações do mundo real”. E não apenas para distribuição de consultas e pesquisa, o R4T também pode ser usado para sistemas de recomendação, que são coisas como o Google Discover ou recomendações no YouTube.

O artigo de pesquisa explica:

“Do ponto de vista de sistemas, o R4T fornece um caminho prático para a implantação de modelos de recuperação que otimizam propriedades de ordem superior, como diversidade, cobertura e complementaridade, mantendo ao mesmo tempo baixa latência de inferência. Isso é particularmente relevante para aplicações do mundo real, onde a recuperação por distribuição é desejável, mas a geração autorregressiva é proibitivamente cara, incluindo sistemas de recomendação, pesquisa criativa e acesso exploratório à informação.

Ao separar a descoberta orientada por recompensa da implantação no tempo de inferência, nossa estrutura oferece suporte à recuperação escalonável e personalizável sem otimização on-line repetida.”

Pode ser usado além da pesquisa

Por último, os investigadores dizem que embora esta nova estrutura seja óptima para fan-outs de consultas, também pode ser aplicada para além da “recuperação” (que é a pesquisa). Eles explicam que pode ser usado para tarefas como planejamento e “geração criativa”.

Eles escrevem:

“A ideia de usar RL para sintetizar dados de treinamento alinhados aos objetivos pode se estender além da recuperação para outras tarefas de geração estruturada onde a verdade básica é ambígua ou subjetiva, como planejamento, design e geração criativa. Esperamos que isso incentive uma maior exploração de abordagens compiladas que combinem aprendizagem interativa com modelos generativos eficientes.”

O Google implantou a difusão R4T?

O que se destaca na postagem do blog sobre o R4T-Diffusion é que eles dizem que ele oferece fan-outs de consulta “prontos para produção”, o que significa que está pronto para ação em um ambiente escalonado exigente como a pesquisa de IA. O fato de eles terem publicado uma postagem no blog sobre isso, além do artigo de pesquisa, também mostra o quão “pronta para produção” esta nova estrutura está.

Ultimamente, tem havido postagens nas redes sociais nas quais as pessoas relatam ter notado aumentos no tráfego e outras afirmam que há mais links sendo mostrados no modo AI. Outros notaram o que parece ser uma atualização não anunciada do Google. Isso poderia ser uma evidência de que o Google atualizou seu sistema de distribuição de consultas?

Os pesquisadores adicionaram declarações de advertência ao seu trabalho de pesquisa que estão ausentes na postagem do blog. Os investigadores escrevem na conclusão do artigo que o quadro funcionou bem em contextos como a moda e a música, mas expressaram preocupação de que o R4T pudesse amplificar preconceitos em contextos sensíveis e ofereceram a sua opinião de que a implantação nesses contextos deve ser feita com cuidado com as auditorias.

Eles explicam:

“A implantação responsável requer auditorias tendenciosas específicas de domínio, práticas de design inclusivas e mecanismos de supervisão apropriados. Vemos o R4T como uma ferramenta para design de recuperação controlada que deve ser acompanhada por salvaguardas, em vez de um substituto para o julgamento humano e a supervisão ética.”

O artigo de pesquisa foi publicado em março, há seis meses. A postagem no blog do Google sobre isso foi publicada na semana passada, 15 de setembro. Isso deu ao Google tempo para decidir se deveria implantar isso em contextos sensíveis ou reservá-lo para consultas de pesquisa não confidenciais ou estabelecer maneiras de colocar barreiras nele.

É curioso que eles tenham esperado seis meses para postar no blog sobre isso, para que se pudesse inferir que foi anunciado neste momento porque foi implantado. Mas não sabemos ao certo.