OpenAI lança Astra, seu novo modelo poderoso (e polêmico)

A OpenAI lançou na quinta-feira o Astra, seu mais recente modelo de IA e – segundo a empresa – o mais poderoso e capaz até agora.

A OpenAI afirma que o Astra representa “uma nova fronteira no uso de computadores e navegadores” e que lida com tarefas com “velocidade, precisão e segurança” incomparáveis.

O modelo será disponibilizado quinta-feira para clientes da OpenAI que utilizam o Daybreak, seu programa de segurança cibernética. Na próxima semana, ele também estará disponível por meio dos planos pagos da OpenAI – incluindo contas Pro, Plus, Enterprise e Business – bem como por meio de sua API.

Em uma ligação com jornalistas na quinta-feira, o presidente da OpenAI, Greg Brockman, disse que o Astra era “o modelo mais inteligente e, também muito importante, nosso modelo mais alinhado até agora”. Ele acrescentou que “reúne anos de nossa pesquisa e grandes apostas, com cada avanço baseado no anterior” e que representa uma “mudança real no tipo de trabalho que as pessoas podem delegar à IA e como ela pode capacitá-las”.

Muito se tem falado sobre as capacidades cibernéticas do Astra. A OpenAI publicou um blog no início desta semana discutindo os novos recursos do modelo, bem como as novas salvaguardas que foram instituídas para torná-lo uma experiência mais segura para os usuários. A empresa disse na quinta-feira que testou o Astra em uma variedade de benchmarks de segurança para garantir suas capacidades e que “sua capacidade de identificar e desenvolver explorações de dia zero pode ajudar os defensores a encontrar e corrigir pontos fracos”.

O foco da empresa no alinhamento – ou seja, a tendência de um modelo de fazer o que o usuário deseja ou é do melhor interesse – não pode deixar de parecer uma resposta à recente violação do Hugging Face, na qual um agente OpenAI escapou de seu ambiente de teste em área restrita e invadiu várias empresas (um exemplo muito flagrante de desalinhamento).

A OpenAI também se vangloriou das habilidades de codificação do Astra, alegando que é o “melhor modelo para engenharia de software até hoje”. Para respaldar essa afirmação, a empresa fornece resultados de diversos testes de benchmarking relacionados ao ciberespaço. Esses testes parecem mostrar que o Astra tem pontuações mais altas do que outros modelos existentes – incluindo o próprio Sol da OpenAI e o Fable da Anthropic – quando se trata de atividades como encontrar bugs, executar tarefas de terminal e responder perguntas sobre bases de código.

Astra também é possivelmente o modelo mais controverso da OpenAI devido ao uso de uma técnica de raciocínio específica conhecida como recorrência opaca. Esta técnica é conhecida por ocultar um importante processo de monitoramento de modelo conhecido como cadeia de pensamento, que permite aos pesquisadores auditar como e por que um modelo de IA tomou as decisões que tomou.

A OpenAI minimizou o grau em que o Astra se envolve na recorrência opaca – e na chamada, o cientista-chefe Jakub Pachocki pareceu enquadrar uma certa quantidade de opacidade como uma consequência natural da evolução do modelo. Ele afirmou que monitorizar o processo de raciocínio de um modelo era uma forma crítica de supervisão, mas que “à medida que as capacidades do modelo aumentam, a monitorização torna-se mais desafiante”.

Mais tarde, ele acrescentou que uma razão potencial para isso era que “modelos mais capazes podem executar tarefas mais difíceis usando menos tokens de idioma” ou “sem tokens de idioma”, o que, segundo ele, reduz a capacidade de monitorar essas tarefas específicas.

Um repórter na teleconferência queria saber se a OpenAI estava realmente anunciando o Astra como a chegada oficial da AGI, ou inteligência artificial geral – a conjuntura tecnológica frequentemente comentada, mas mal definida, na qual a IA supera as capacidades humanas em todas (ou na maioria) das coisas.

Aqui, Brockman questionou. “Não há mais acionamento contratual de AGI, então esse não é um conceito relevante”, disse ele. Aqui Brockman estava se referindo à estipulação anteriormente existente no contrato da OpenAI com a Microsoft que dizia que a parceria da dupla seria dissolvida assim que a AGI chegasse. Como observou Brockman, essa estipulação não existe mais.

Em vez disso, Brockman explicou que a definição da AGI evoluiu de uma obrigação contratual para um “conceito de missão ou conceito espiritual”. Ele acrescentou: “Deixo ao leitor decidir por si mesmo se isso se qualifica para ele. Para mim, pessoalmente, acho que chegamos lá.”