Sergey Brin, do Google, vê um caminho para AGI, mas não além dele -

Numa entrevista recente à AGI House, Sergey Brin descreveu o Gemini como um sistema cujas capacidades não estão apenas a evoluir, mas também a integrar o conhecimento mundial através de línguas e modalidades. Ele disse que o software em que a IA é executada também evoluiu além do que foi originalmente projetado e, embora Brin possa imaginar o Gemini alcançando a AGI, ele também não consegue ver o que vem a seguir.

AGI: Inteligência Geral Artificial

AGI é um nível de IA que pode aprender, compreender e aplicar conhecimento em tarefas de maneira semelhante aos humanos. A IA de hoje pode produzir respostas úteis, escrever códigos, analisar imagens e resolver muitos problemas limitados, mas ainda não compreende o mundo nem aplica o conhecimento de forma independente em vários domínios da mesma forma que um ser humano consegue.

OpenAI, Google DeepMind e Anthropic estão desenvolvendo AGI, mas enfatizam diferentes razões para o que desejam fazer com ele. OpenAI concentra-se em benefícios econômicos, Google DeepMind enfatiza a descoberta científica e Anthropic prioriza o progresso humano.

Próxima grande novidade: as capacidades de IA estão convergindo

Brin disse que o progresso anterior da IA do Google dependia de modelos especializados que foram construídos para tarefas específicas. Mas ele disse que a Gemini está cada vez mais alcançando desempenho de última geração em vários domínios, como matemática e raciocínio científico. O que o Google está vendo é que as capacidades que antes dependiam de modelos treinados para fazer coisas específicas estão agora dando lugar a famílias de modelos que podem fazer tudo: convergência.

Ele também disse que a convergência foi algo que aconteceu; não era algo que ele esperava quando o Google começou a desenvolver IA.

O contexto da sua resposta foi uma pergunta sobre qual seria a próxima grande novidade, sendo a sua resposta a convergência.

Brin respondeu:

“Acho que o interessante é que todas essas coisas estão convergindo para os mesmos modelos gerais.

No passado, teríamos que ter modelos especializados. E no caso do enovelamento de proteínas, obviamente ainda o fazemos.

Mas cada vez mais, nossos principais LLMs Gemini podem ser o que há de mais moderno em matemática, por exemplo, e em outros tipos de questões científicas. Então essa convergência é, não sei, acho que não é algo que eu realmente teria previsto no início. Mas tem sido incrível de ver.

E acho que está embutido nisso o conceito de transferência, apenas a ideia de que quando você treina para uma determinada classe de problemas, digamos que você esteja treinando para codificação, isso pode realmente ajudar seu raciocínio matemático e vice-versa.

E tem sido muito emocionante ver isso… a capacidade multimodal também é um exemplo disso. Tipo, você pode realmente conseguir uma transferência da capacidade de processar imagens para a capacidade de pensar em problemas de texto geométrico também.

A aprendizagem por transferência é uma das razões pelas quais a convergência está acontecendo. A aprendizagem por transferência é onde você treina um modelo em uma coisa e descobre que isso traz benefícios na realização de tarefas em outra coisa que aparentemente não está relacionada. Então, o que está acontecendo agora é que o Google está descobrindo que combinar coisas como treinamento visual, matemática e raciocínio está contribuindo para melhorias em múltiplas capacidades.

Transformadores são “estranhamente flexíveis”

Perguntaram a Brin se os transformadores desempenharão um papel na AGI. Transformers são o software em que a IA é executada e a inovação que possibilitou coisas como o ChatGPT. A resposta de Brin menciona MOE, que significa Mixture Of Experts. MOE é uma técnica para encaminhar tarefas específicas para “especialistas” internos especializados para aumentar a eficiência.

Para a questão de saber se o AGI funcionará com transformadores, Brin respondeu:

“Os transformadores têm sido estranhamente flexíveis. Nós os usamos para imagem e vídeo, além de texto. Portanto, eles excederam sua capacidade original.

Agora, para ser justo, ao longo do caminho eles também mudaram. Quero dizer, temos qualquer tipo de MOE esparso, transformadores. Quero dizer, há muitos pequenos detalhes que mudaram ao longo do caminho, então não é exatamente a mesma coisa que o papel do transformador.

Se eu pudesse adivinhar, algo próximo disso poderia ser AGI? Eu diria que sim.

Esse é apenas o meu palpite, só porque eles conseguiram evoluir muito.

Mas como eu disse, eles estão mudando. Não é exatamente a mesma coisa que o papel do transformador original.”

Os modelos mundiais estão convergindo com Gêmeos

Perguntaram a Brin se os modelos mundiais ajudariam a IA a alcançar a AGI, se isso fizesse parte do alcance desse objetivo. Um modelo mundial é uma simulação interna da realidade de uma IA que a ajuda a antecipar o que pode acontecer a seguir. Ao prever as consequências de diferentes ações, pode tomar melhores decisões e planear com antecedência.

Ele mencionou o Gemini Omni do Google como um exemplo dessa direção em IA. Gemini Omni foi apresentado em meados de maio no Google I/O. O Google o descreve como sua nova família de modelos de IA multimodal “qualquer entrada para saída”. Ele combina as habilidades de raciocínio do Gemini com capacidades de mídia generativa, começando pela criação e edição de vídeos. O Google o descreve como um modelo que pode eventualmente “criar qualquer coisa a partir de qualquer entrada”.

A pergunta feita foi:

“Qual é a sua perspectiva sobre como os modelos mundiais podem ajudar a alcançar a AGI?”

Brin respondeu:

“Sim, quero dizer, os modelos mundiais são como modelos de vídeo, basicamente. E acho que há algumas pessoas que falam sobre AGI de forma bastante ampla.

Eu penso nisso como, penso na AGI como a ideia de que a IA pode realmente melhorar a si mesma.

Mas outras pessoas, e acho que provavelmente essas pessoas estão mais corretas, pensam que AGI significa, bem, a IA precisa ser capaz de fazer qualquer coisa que uma pessoa possa fazer.

E essas são duas coisas diferentes.

Portanto, para fazer qualquer coisa que uma pessoa possa fazer, é absolutamente necessário ser capaz de compreender e interagir com o mundo físico.

Então para isso, poder saber, sonhar, imaginar o que vai acontecer no mundo se você fizer algo e compreender é obviamente importante.

Então, eu acho que os modelos mundiais, sim, se você vai fazer tudo e isso, você sabe, se estende à robótica e coisas assim, os modelos mundiais são fundamentais.

E sim, vocês provavelmente tiveram mais tempo para brincar com nosso modelo Gem Omni, honestamente, do que eu, porque estou profundamente envolvido no jogo de autoaperfeiçoamento.

Mas sim, estamos trabalhando nisso há muito tempo, Omni é a versão mais recente disso.

Omni também é bem legal porque é igualzinho, sabe, Gêmeos, como a gente treinou ele também com todo o texto e todas as outras coisas, treina exatamente do mesmo jeito.

O fato de eles convergirem é incrível. Mas sim, você precisa dessa capacidade para interagir fisicamente.”

A conclusão é que Gémeos está a tomar uma nova direção com a convergência dos modelos mundiais. É a próxima etapa de crescimento.

O que vem depois do AGI?

Alguém perguntou a Brin sobre o que vem depois do AGI, o que foi uma pergunta muito boa. O que foi interessante na resposta de Brin é que ele não tinha nenhuma. A resposta de Brin foi que ele realmente não conseguia ver além disso. Ele comparou a IA a ondas tecnológicas anteriores, como a web e a computação móvel, mas não identificou um paradigma do que vem a seguir.

A implicação é que descobrir o que vem depois da AGI seria em si uma grande oportunidade.

Ele disse:

“Uau, essa é uma ótima pergunta.

O que acontecerá depois de atingirmos o AGI?

Quer dizer, acho que todos estão bastante focados em acelerar o crescimento da IA neste momento. O que vem depois?

Começamos obviamente com a web e a pesquisa na internet. Nós meio que passamos pela geração móvel, que foi outra grande explosão.

Acho que agora as pessoas estão – agora a IA é uma grande nova tendência da indústria. E o que vem depois disso?

Rapaz… quero dizer, acho que se você puder responder isso, você terá uma companhia fantástica em suas mãos.”

O que tudo isso significa

Brin vê a IA caminhando em direção à AGI por meio da convergência.
As capacidades antes tratadas por modelos separados estão se fundindo em famílias de modelos mais amplas.
A aprendizagem por transferência ajuda um tipo de conhecimento a melhorar o desempenho de outro.
Os transformadores continuam a evoluir.
Os modelos mundiais podem ser o próximo estágio de crescimento de Gêmeos.
Pode ser que ninguém saiba o que vem depois do AGI até que o tenha alcançado.

OpenAI, Google DeepMind e Anthropic estão trabalhando para criar AGI, priorizando diferentes objetivos para isso.

A descrição de Brin sobre Gemini oferece um vislumbre de como o Google acredita que a AGI pode ser alcançada. Ele descreveu um processo de convergência, onde capacidades que antes exigiam sistemas separados estão aparecendo cada vez mais dentro da mesma família de modelos. Uma razão pela qual isso está acontecendo é a aprendizagem por transferência, onde treinar um modelo em um domínio melhora suas habilidades em outro.

Essa mesma convergência está agora a estender-se aos modelos mundiais. Em vez de tratar a compreensão do mundo físico como uma disciplina separada, o Google está integrando essas capacidades no próprio Gemini. Brin apontou o Gemini Omni como um exemplo de como o raciocínio, a compreensão multimodal e as capacidades do modelo mundial estão cada vez mais se tornando parte do mesmo sistema.

O que vem depois da AGI permanece uma questão em aberto. Brin disse que pode imaginar as atuais arquiteturas de IA continuando a evoluir em direção à AGI, mas quando questionado sobre o que se segue, ele não teve uma resposta. Se a AGI for a próxima fronteira, o que vier depois poderá ser a base de uma geração inteiramente nova de empresas e tecnologias.

E é para aí que estamos indo com a IA.

Assista à entrevista aqui: