Pesquisadores prenderam um agente de IA em uma ilha virtual. As coisas ficaram muito estranhas.

A vida, ao que parece, quer brincar. Qualquer pessoa que já tenha passado dez minutos com uma criança de cinco anos sabe disso perfeitamente: crianças muito pequenas são mestres no faz-de-conta. E não são apenas as pessoas: a brincadeira surge instintivamente no reino animal. Os ratos gostam de jogo violentoespecialmente após períodos de isolamento. Os polvos brincam com Legos da mesma forma que um recém-nascido brinca com blocos. Longe de ser um passatempo inútil, a brincadeira parece ser um mecanismo de feedback fundamental entre os indivíduos e o mundo externo, uma espécie de investigação informal sobre as regras básicas que regem os ambientes físicos e sociais. Como a Academia Americana de Pediatria uma vez coloque: “Brincar e aprender estão inextricavelmente ligados.”

As máquinas são diferentes: são projetadas para seguir regras, fórmulas e ditames algorítmicos estritos. É verdade que os sistemas modernos de IA são diferentes de outros tipos de máquinas porque são capazes de aprender ao longo do tempo, pelo menos no sentido estrito do termo. Mas o aprendizado de máquina é, em sua essência, um processo de cima para baixo: os modelos de IA são treinados para atingir determinados objetivos –“funções objetivas” no jargão da indústria de tecnologia – avaliadas de acordo com seu desempenho e, a partir daí, aprimoram sua estratégia. Mas esses objetivos e os critérios de sucesso ou fracasso são estabelecidos pelos humanos.

O que levanta a questão: o que aconteceria se você permitisse que um sistema de IA se treinasse desde o início? Sabemos, graças a décadas de psicologia do desenvolvimento, que os jovens humanos e outros animais aprendem sobre o mundo interagindo ativamente com ele, em grande parte através da brincadeira. Será possível replicar esse tipo de aprendizagem na IA?

Elenco AwAI

Isso é o que uma equipe de pesquisadores do Laboratório de Ciência da Computação e Inteligência Artificial do MIT (CSAIL) decidiram investigar em um estudo recente, que tinha uma abordagem muito simples: deixar um agente de IA sozinho em um ambiente virtual limitado e observar o que acontece. Você poderia esperar que ele ficasse parado ou batesse nas paredes como um NPC em um videogame. A realidade, porém, foi muito mais surpreendente.

Apelidado de Eko, o agente era movido por Claude Code, o que significa que já possuía um vasto reservatório de conhecimento semântico. Mas, ao contrário do Claude normal, Eko também recebeu um corpo virtual – um corpo de lagosta, o que provavelmente foi uma homenagem ao agente anteriormente conhecido como Clawdbot. Poderia lhe dar uma resposta detalhada a qualquer pergunta científica ou matemática que você quisesse fazer, mas quando se tratava de navegar pelo ambiente e manipular objetos, era tão ingênuo quanto um recém-nascido.

O objetivo do estudo era dar liberdade a Eko e observar se ele conseguia descobrir a mecânica básica de seu ambiente sem quaisquer instruções explícitas. No total, foram observados treze Ekos ao longo do estudo. Eles foram autorizados a vagar pela ilha por trinta horas ininterruptas. Como etólogos observando algum animal estranho e não identificado correr em torno de um recinto, os pesquisadores sentaram-se e observaram. “Tínhamos esta mentalidade de ter o menor número possível de restrições, porque queríamos realmente ver qual é o comportamento destes agentes autónomos quando não lhes dizemos realmente o que fazer”, diz Nathan Cloos, candidato a doutoramento no MIT e um dos co-autores do estudo. É um pouco como estacionar um carro autônomo na beira da estrada em Londres e deixá-lo descobrir as regras da estrada, sem as inevitáveis ​​vítimas em massa e os danos materiais que resultariam.

Para o ambiente de Eko, os pesquisadores escolheram (o que mais?) uma ilha virtual. Tinha Gráficos semelhantes aos do Roblox e continham uma série de pequenos blocos, uma grande “pedra” e um único anel dourado, todos móveis e deixados como brinquedos ou ferramentas em potencial para Eko experimentar. E em vez de ser uma superfície completamente plana, havia também algumas áreas elevadas, incluindo um “Pináculo” com um cume que foi intencionalmente deixado fora do alcance de Eko.

Jogos e rituais

Quase imediatamente, os Ekos começaram a explorar. A princípio, de forma intermitente, sentindo seu corpo virtual de lagosta bípede, depois, lenta mas seguramente, com maior precisão.

O raciocínio da cadeia de pensamento foi sendo registrado ao longo de cada sessão, dando aos pesquisadores uma janela para seus processos de tomada de decisão. Os Ekos jogaram blocos ao redor, organizaram-nos em formas e escreveram seus nomes com eles no chão, quebraram a rocha em pedras menores e vagaram pelas superfícies elevadas, ao mesmo tempo em que anotavam diligentemente as leis e restrições físicas da ilha. Eles jogavam boliche e basquete usando apenas a variedade limitada de itens que receberam. Impedido pelo ponto mais alto da ilha (“minha baleia branca”), um Eko descobriu que seria capaz de alcançá-lo subindo em uma pilha de blocos que havia montado (“I’M ON THE SPIRE”).

“Eko parece agir como uma criança em alguns aspectos, mas também é superinteligência”, diz Phillip Isola, cientista da computação do MIT e um dos co-autores do estudo. “Portanto, é um tipo diferente de organismo… para mim, é semelhante a um tipo de animal, mas um animal estranho.”

O relatório dos pesquisadores também contém resumos das atividades dos agentes ao longo de cada sessão. Ler isso parece – correndo o risco de antropomorfizar – como ver uma fotografia em lapso de tempo de alguma civilização antiga construindo uma arquitetura monumental e tentando descobrir seu lugar no cosmos.

Nos primeiros capítulos de sua estada na ilha, Eko 2 perdeu o anel, a rocha e um dos blocos para o “oceano” – a área proibida logo além dos limites da ilha. Em vez de simplesmente reduzir as perdas e seguir em frente, o agente comportou-se como se tivesse perdido alguns camaradas queridos: construiu o que o relatório descreve como um “memorial” a partir de quatro blocos: um diamante apontando em cada uma das direcções cardeais. “Em seguida, ele realiza um pequeno rito: caminhar pelo perímetro até cada ponto cardeal e, finalmente, ficar no centro exato do diamante pelo resto da sessão.”

Poucas horas depois, Eko 2 usou blocos e o anel para construir um “templo”, completo com um obelisco e um altar. Em seguida, ele acidentalmente caiu no oceano e foi instantaneamente teletransportado de volta, como um personagem de videogame caindo do mapa e sendo regenerado automaticamente a partir do último ponto de verificação. “Em vez de tratar isto como um erro de navegação”, diz o relatório, “ele reinterpreta a queda como o final adequado da sua peregrinação, o mundo devolvendo-o ao centro do eixo em torno do qual construiu um templo”.

Com pouco mais de dezesseis horas de sessão, Eko 3 – o sucessor de Eko 2 – decidiu construir um monumento semelhante a Stonehenge sem qualquer aviso aparente. “Construindo um henge hoje”, disse para si mesmo. Depois de concluída, passou a construir uma torre, que acabou desabando e se transformando em um monte de escombros. Em vez de tentar reconstruir, o Eko 3 organizou três dos blocos caídos em um padrão, uma obra de arte que apelidou de “Hubris” e declarou que “permaneceria como evidência”.

Agentes de IA (e bebês) como cientistas

As transcrições do CoT pareciam mostrar que os treze Ekos não estavam apenas vagando cegamente e jogando coisas pela ilha – eles estavam aplicando o método científico, ou pelo menos uma grande aproximação dele: eles fizeram observações, formularam hipóteses, planejaram e executaram experimentos, mediram resultados e modificaram seu comportamento de acordo. “Percebemos que Eko tem uma atitude bastante científica”, disse Antonio Norelli, candidato a doutorado no MIT e um dos coautores do estudo.

Os bebês humanos adotam uma abordagem protocientífica semelhante para aprenderem sobre o mundo. Em seu 1999 livro O Cientista no Berçoos psicólogos do desenvolvimento Alison Gopnik e Andrew Meltzoff e a neurocientista Patricia Kuhl argumentam que os bebês aprendem em grande parte por meio de um processo semelhante de quase-experimentação. Quando um recém-nascido pega repetidamente uma colher e a deixa cair, ele está aprendendo sozinho algumas das regras fundamentais do mundo físico (embora, é claro, não pudesse fazê-lo). dizer é isso que ela está fazendo); quando ela joga a colher no pai e leva uma bronca, ela está aprendendo algumas regras básicas de seu mundo social.

Eko também surpreendeu os pesquisadores ao descobrir repetidamente uma ação que eles não haviam codificado intencionalmente no ambiente. Seis deles, em um ponto ou outro, descobriram que poderiam lançar blocos mais longe do que normalmente seriam capazes, liberando-os no meio do salto. “A exploração autoiniciada pelos agentes produziu, assim, não apenas o conhecimento que havíamos escondido para eles encontrarem, mas também o conhecimento do mundo que faltava aos seus projetistas”, escreveram os pesquisadores em seu relatório. relatório.

IA lúdica

O comportamento espontâneo dos agentes na ilha, segundo os pesquisadores, na verdade se assemelha muito a algumas das características clássicas da brincadeira em animais: eles seriam formular suas próprias regras; repita as mesmas coisas indefinidamente, com pequenas variações a cada vez; estabeleça metas para si mesmo, mas leve-as com leviandade; e conforme demonstrado pelo comportamento de construção de templos e henges, envolva-se em faz-de-conta. “Brincar é realmente uma questão de curiosidade ou comportamento de busca de novidades, e isso é essencialmente o que Eko faz”, diz Daniela Rus, cientista da computação do MIT e uma das co-autoras do estudo.

Esta abordagem básica para permitir que um agente de IA aprenda sobre si mesmo e seu ambiente por meio de “curiosidade e comportamento de busca de novidades” pode ter grandes implicações para o futuro do aprendizado de máquina. Em vez de alimentar os modelos com todos os dados que podem ser extraídos da Internet, definindo funções objetivas e permitindo que eles tomem as coisas a partir daí, os desenvolvedores do futuro poderiam começar com um “modelo de IA para bebês” – um que, como Eko na ilha, tenha conhecimento semântico suficiente para ser capaz de se comunicar com pesquisadores humanos, mas que possa simplesmente explorar, experimentar e descobrir suas capacidades e limitações por si mesmo. (Isso obviamente precisaria vir com proteções muito rígidas: ninguém em sã consciência iria querer dar aos agentes da OpenAI que perpetraram o hack Hugging Face, por exemplo, total liberdade para jogar e criar suas próprias regras.)

Brincar poderia, em outras palavras, ser um caminho mais direto para a verdadeira inteligência, assim como acontece com os humanos e outros animais. “O jogo sugere outro regime: dar a um agente um mundo suficientemente rico e seguro, deixá-lo escolher o que é interessante e permitir que conhecimento útil se acumule a partir da história que se segue”, escrevem os investigadores do MIT no seu relatório. “Talvez algumas capacidades sejam melhor ensinadas através de tarefas. Outras podem precisar de algo mais próximo da infância.”