OpenAI lutou sujo em problemas de matemática para fazer carreira, diz matemático da NYU

O professor de matemática da NYU, Tristan Buckmaster, anunciou três provas na terça-feira com uma descoberta preliminar sobre um dos principais problemas não resolvidos da matemática teórica. As descobertas, feitas em colaboração com o matemático antrópico Levent Alpöge e usando os modelos Codex e Claude AI, são significativas por si só – mas também são acompanhadas por uma controvérsia incomum em torno das tentativas da OpenAI de resolver o mesmo problema.

“Há outra parte desta história”, escreveu Buckmaster em sua declaração anunciando as provas, “e uma com a qual, honestamente, eu gostaria muito de não ter que me preocupar”.

Enquanto Buckmaster e Alpöge finalizavam seus resultados, eles descobriram que “as informações sobre nosso progresso foram repassadas à OpenAI”. Quando contataram a OpenAI sobre isso, foram informados de que a OpenAI já havia conseguido uma prova completa do problema central. Mas quando fizeram perguntas de acompanhamento sobre quando a OpenAI começou a sua investigação sobre o problema e quanta contribuição humana estava envolvida, as respostas tornaram-se mais evasivas.

“Descobriu-se que uma equipe inteira estava trabalhando no problema”, diz Buckmaster, “e que uma quantidade absurda de computação havia sido usada… Eventualmente, foi acordado que (o primeiro prompt) havia sido enviado nos últimos dias, depois que as informações sobre nosso trabalho chegaram à OpenAI.”

Se for verdade, isso sugeriria que a equipe da OpenAI se convenceu de que a abordagem de Buckmaster e Alpöge era a correta e decidiu usar sua vantagem material em recursos computacionais para chegar primeiro a uma prova formal.

Sebastian Bubeck, que lidera a pesquisa matemática da OpenAI, diz que essas afirmações são “falsas e inflamatórias”.

“Para esclarecer, entrei na discussão seguindo as normas acadêmicas e estou desapontado que tenha chegado a esse ponto”, escreveu ele em um post após a declaração de Buckmaster. “Quem me conhece sabe que os padrões acadêmicos são da maior importância para mim.” Bubeck disse que faria uma declaração mais completa em breve.

A disputa centra-se no problema da “existência e suavidade de Navier-Stokes”, um dos sete “problemas do Prémio do Milénio” – um conjunto de grandes problemas matemáticos não resolvidos, cada um deles com uma recompensa de 1 milhão de dólares do Clay Mathematics Institute para a primeira pessoa ou grupo que forneça uma solução. As equações de Navier-Stokes são amplamente utilizadas na mecânica dos fluidos, mas pouco compreendidas em termos teóricos. Uma solução representaria um avanço significativo na compreensão coletiva da física matemática.

Embora o problema seja amplamente abordado entre os matemáticos, a tática específica adotada por Buckmaster e seu colaborador é muito menos comum. Como resultado, Buckmaster achou suspeito que a OpenAI acabasse adotando a mesma abordagem ao mesmo tempo.

“O caminho para o problema de Clay através de uma força suave, opções c e d na declaração de Fefferman sobre o problema, é o caminho que Luis e Diego abriram e aquele que Levent e eu escolhemos silenciosamente atacar”, escreveu Buckmaster. “Quase ninguém que eu conheça estava trabalhando nisso”, continuou ele. “Não é a direção que se chega em poucos dias, dando a um modelo a declaração do problema.”

Embora Alpöge seja funcionário da Anthropic, ele não conduziu esta pesquisa em nome da empresa. Como resultado, a dupla utilizou uma mistura de modelos, contando principalmente com o Codex da OpenAI em seu trabalho. Mesmo assim, a afiliação da Alpöge a um laboratório rival parece ter sido um ponto sensível para a OpenAI, e Buckmaster alega que Bubeck lhe pediu para remover o crédito da Alpöge como parte de um acordo proposto.

Quando Buckmaster pressionou para tornar a disputa pública, ele disse que Bubeck respondeu: “Por que você arruinaria sua carreira?” Buckmaster diz que, quando recuou, Bubeck continuou: “Se você não quer que eu seja legal, então não preciso ser legal”.

Buckmaster também levantou preocupações de que, por ter usado extensivamente o Codex na montagem do projeto, as informações de seu trabalho poderiam ter informado os próprios esforços da OpenAI para resolver o problema. A OpenAI reserva-se o direito de treinar modelos nas interações do Codex, embora os usuários possam optar por não participar. Se a equipe da OpenAI usasse um modelo treinado nas interações Codex do próprio Buckmaster, é plausível que ele pudesse ter regurgitado seu trabalho ao enfrentar um problema semelhante.

A OpenAI não respondeu a um pedido de comentário sobre esta possibilidade.

Independentemente disso, é provável que a questão reacenda o debate em curso sobre o papel da IA ​​na investigação matemática e os incentivos específicos da OpenAI. De sua parte, Buckmaster parece acreditar que a melhor resposta é levar o máximo de informações sobre a pesquisa aos olhos do público.

“Não vi a prova da OpenAI”, escreveu Buckmaster. “Não sei o que o modelo deles fez, nem como. Não sei se nossos dados foram usados. Não estou acusando ninguém de nada. Estou declarando o que me disseram, quando e o que me foi proposto. Estou afirmando isso porque a alternativa é deixar uma sequência de anúncios dizer algo que sei ser falso.”