Esta startup aposta totalmente no autoaperfeiçoamento recursivo. Seu modelo mais recente é assustadoramente bom
Para o passado Há alguns dias venho testando um impressionante modelo de codificação de IA de peso aberto chamado Flint. Isso sugere que o autoaperfeiçoamento totalmente recursivo, ou RSI – uma abordagem interessante e controversa que usa IA para construir IA – está cada vez mais próximo.
Flint é a primeira oferta da Recursive, uma empresa que pretende usar o RSI para promover a própria IA e outras áreas da ciência que usam IA. “Quase todos os aspectos de todo o pipeline do modelo foram realmente feitos e aprimorados pela IA”, disse-me o CEO e cofundador da Recursive, Richard Socher.
Socher diz que sua empresa usou seu sistema recursivo de IA, apelidado de Máquina Eureka, para automatizar a maioria dos elementos do desenvolvimento do modelo. Isso permitiu que uma empresa com poucos pesquisadores construísse um modelo de classe mundial em apenas alguns meses, diz ele.
Socher me disse que a Máquina Eureka desenvolveu uma série de inovações, incluindo uma nova forma de treinar o modelo básico, novas arquiteturas de modelo e código otimizado para chips de silício específicos. Pontuações de benchmark compartilhadas recursivas que sugerem que Flint supera outros modelos de tamanho e arquitetura semelhantes em tarefas de codificação.
A IA já é amplamente utilizada para ajudar a construir, testar e melhorar a IA graças às suas incríveis habilidades de codificação. Isso pode acelerar o processo de refinamento de um modelo e teste de novas ideias sem a necessidade de tanta contribuição humana.
Também é possível criar um ciclo através do qual a IA decide quais melhorias fazer e então inicia outra rodada de melhorias. De momento, esta técnica é limitada, mas se a IA puder contribuir para todos os aspectos do desenvolvimento do modelo, então o processo poderá, teoricamente, continuar indefinidamente.
Alguns especialistas temem que deixar a IA melhorar desta forma possa levar ao desastre. Estes pessimistas afirmam que a IA capaz de melhorar indefinidamente poderia escapar ao controlo humano e poderia decidir que os humanos são um impedimento aos seus objectivos.
Estas preocupações ganharam maior atenção em Setembro, quando um investigador abandonou a Anthropic e alertou que os avanços na IA, incluindo o auto-aperfeiçoamento recursivo, poderiam levar à extinção humana dentro de alguns anos – uma preocupação então partilhada por vários outros especialistas. A ideia do RSI tornou-se tão controversa que vários projetos de lei no Congresso propõem proibi-lo.
Recursive vê esses medos mais como ficção científica do que realidade e acredita que a legislação para prevenir LER é um impedimento desnecessário ao progresso.
Socher diz que Flint foi construído usando um sistema incapaz de escapar do controle humano. Ele diz que o objetivo é que a própria Máquina Eureka alcance o autoaperfeiçoamento recursivo completo, mas isso ainda seria supervisionado por humanos que poderiam interromper o processo se ele desse errado. “Esperamos que isto mostre às pessoas que de facto temos todas as etapas implementadas” para construir tal sistema, diz ele.
