Engenheiro do Google explica modelos de IA ‘caixa preta’ na pesquisa

Nikola Todorovic, Diretor de Engenharia de Software da Pesquisa Google, apareceu em um episódio do Search Off the Record para discutir como a IA evoluiu dentro da Pesquisa Google.

Todorovic lidera a equipe de engenharia do SafeSearch do Google e trabalha na organização de pesquisa há 15 anos. Ele disse que o aprendizado de máquina era difícil de implantar amplamente na Pesquisa porque modelos complexos são mais difíceis de entender e corrigir do que sistemas mais simples.

Ele estava explicando por que o Google não poderia simplesmente aplicar sistemas de ML na Pesquisa de uma só vez. Todorovic disse que esses modelos podem “funcionar como uma espécie de caixa preta” porque os engenheiros nem sempre entendem o que acontece por baixo.

Isso torna a depuração mais difícil quando os sistemas de busca mudam ao longo do tempo ou quando um modelo precisa ser substituído, disse ele.

SafeSearch como campo de provas

Todorovic disse que o SafeSearch foi um dos primeiros lugares onde o Google poderia implantar modelos de IA na Pesquisa porque a equipe poderia isolar esses sistemas do fluxo de classificação principal.

O SafeSearch pode executar classificadores independentes de imagens e vídeos que produzem um sinal, como o quão explícito um resultado pode ser. Se surgissem problemas, os engenheiros poderiam iterar o modelo sem interromper o restante da Pesquisa.

As redes neurais convolucionais começaram a melhorar a compreensão das imagens há cerca de 12 anos, disse ele, tornando o SafeSearch um caso de uso inicial natural para aprendizado de máquina dentro do Search.

Visões gerais de IA baseadas em pesquisas existentes

Todorovic descreveu as visões gerais de IA como um recurso que “se destaca” dos sistemas de recuperação e classificação existentes do Google. Ele disse que a recuperação e classificação nas Visões Gerais de IA ainda é o que ele chama de “o velho estilo, a velha escola”.

O processo pode envolver consultas de distribuição, disse ele. O Google pode identificar consultas adicionais relacionadas à entrada original, executá-las em paralelo e reunir os resultados recuperados em uma única resposta.

As visões gerais de IA combinam e resumem as informações dos resultados selecionados, incluindo texto fonte, trechos, títulos e outros contextos de página, disse ele.

O Modo AI segue um padrão semelhante, mas opera com mais independência, disse Todorovic. Ele o descreveu como ainda em execução na Pesquisa, embora tenha uma “plataforma maior própria”.

Por que isso é importante

A citação da “caixa preta” está chamando a atenção, mas todo o contexto é importante. Todorovic estava explicando por que o aprendizado de máquina era difícil de implantar amplamente na Pesquisa, sem dizer que o Google não supervisiona as visões gerais de IA ou o modo AI.

Seus comentários adicionam um contexto útil à documentação existente do AI Search do Google. O Google já disse que as visões gerais de IA e o modo AI podem usar a distribuição de consultas, emitindo várias pesquisas relacionadas em subtópicos e fontes de dados para desenvolver respostas.

O ponto útil não é que a IA seja uma “caixa preta”. Seus comentários reforçam que os sistemas de pesquisa tradicionais ainda são importantes para as visões gerais de IA, mesmo que o Google coloque o resumo e a distribuição no topo.

Isso mantém os fundamentos da pesquisa tradicional relevantes para os recursos de IA, mesmo que o Google mude a forma como os resultados são resumidos e apresentados.

Olhando para o futuro

Vale a pena observar a diferença entre as visões gerais de IA e o modo AI à medida que o Google expande o modo AI. Todorovic descreveu as visões gerais de IA como mais isoladas do resto da pesquisa, enquanto o modo AI tem mais infraestrutura própria.

Essa diferença pode ser importante para a forma como o Google explica as orientações de visibilidade, medição e otimização à medida que o Modo AI se expande.