Matemático da NYU envolvido na controvérsia sobre IA diz que as máquinas venceram: ‘O jogo acabou’

Os humanos têm um longo histórico de serem humilhados pela IA.

O xadrez já foi celebrado como uma atividade exclusivamente humana, um jogo complexo demais para ser dominado por qualquer máquina. A derrota de Garry Kasparov em 1997 pelo Deep Blue da IBM dissipou-nos para sempre essa ideia. Menos de vinte anos depois, o AlphaGo da DeepMind venceu Lee Sedol no Go, um jogo antigo muitas ordens de magnitude mais complicado que o xadrez. Mas certamente, as pessoas continuaram a pensar, os computadores nunca serão capazes de compor poesia ou tornar-se tão fluentes na fala humana que por vezes os confundimos com seres conscientes. Errado e errado novamente.

Agora, a matemática – aquele campo que tantas vezes é considerado o auge do intelecto humano – tornou-se o último dominó a cair.

Essa é pelo menos a opinião de Tristan Buckmaster, o professor de matemática da NYU que no início desta semana se viu no centro de uma feroz controvérsia envolvendo OpenAI, um problema de matemática que incomodou sua área por noventa anos, e talvez até o próprio futuro da investigação científica. Em um entrevista com a Australian Broadcasting Corporation (ABC), Buckmaster lamentou que a IA se tivesse tornado tão capaz de raciocinar através de problemas matemáticos complexos que o papel dos matemáticos humanos foi para sempre transformado e diminuído. Um Rubicão foi ultrapassado, aos olhos de Buckmaster, e o seu campo enfrenta agora um futuro incerto, à medida que as empresas de IA competem entre si para resolver problemas de longa data aos quais os matemáticos humanos dedicaram anos de esforço meticuloso.

“Acho que é inútil”, disse Buckmaster à ABC. “Tipo, acho que o jogo acabou.” Palavras perturbadoras de um professor respeitado, se você é um estudante de graduação em matemática.

Uma rápida recapitulação

A controvérsia da OpenAI eclodiu na terça-feira, quando a empresa anunciou em um blog que havia resolvido o problema de existência e suavidade de Navier-Stokes, um dos “Problemas do Milênio” que são amplamente considerados como os mistérios não resolvidos mais difíceis da matemática, cada um dos quais vem com um prêmio de US$ 1 milhão para a primeira solução correta. Antes de publicar seu resultado, a OpenAI entrou em contato com Buckmaster, que havia rumores de ter conseguido um avanço em outro problema relacionado a Navier-Stokes, em colaboração com outro matemático chamado Levent Alpöge.

Os dois usaram vários sistemas de IA ao longo de seu trabalho, incluindo o Codex da OpenAI. (A habilidade matemática dos LLMs impressionou profundamente Buckmaster: “Este é um momento Deep Blue-Kasparov”, escreveu ele em um comunicado na noite anterior à publicação da solução Navier-Stokes pela OpenAI.) Depois de aprender sobre a abordagem da OpenAI para resolver Navier-Stokes, Buckmaster suspeitou que seus logs do Codex e os de Alpöge haviam sido usados ​​pela empresa. De acordo com Buckmaster, a OpenAI ofereceu duas opções para compartilhar o crédito pela solução Navier-Stokes, uma das quais envolvia a publicação de seus resultados junto com os da empresa – mas removendo o nome de Alpöge. Alpöge trabalha para a Anthropic, mas sua colaboração com Buckmaster foi apenas como pesquisador independente. Buckmaster recusou ambas as ofertas.

O episódio causou indignação generalizada em toda a profissão de Buckmaster. Numa carta aberta publicada na quarta-feira, um grupo de atuais e antigos matemáticos da CalTech escreveu que “as empresas (de IA) parecem guiadas por um instinto doentio de reivindicar certos resultados antes dos concorrentes a todo custo, independentemente dos danos colaterais à compreensão matemática”.

Um porta-voz da OpenAI disse à ABC que a empresa “pode dizer categoricamente que é impossível que as instruções do Codex do Dr. Buckmaster nos últimos dois meses tenham influenciado o sistema de alguma forma, incluindo treinamento”. Buckmaster disse anteriormente que perguntou à empresa se o trabalho dele e de Alpöge poderia ter sido usado durante o treinamento do modelo, e que não recebeu resposta. No início desta semana, a OpenAI disse aos repórteres que não poderia descartar que o uso do Codex por Buckmaster e Alpöge ajudou a melhorar seus modelos.

Nem OpenAI nem Buckmaster responderam imediatamente aos pedidos de comentários do Gizmodo.

Verificação da realidade

É perfeitamente possível que Buckmaster esteja se adiantando um pouco ao afirmar que “o jogo acabou” para os matemáticos.

Ele teve uma semana provavelmente estressante, mesmo sem toda a conversa sobre um apocalipse iminente desencadeado pela IA, e portanto sua perspectiva sombria é compreensível. Também vale a pena ter em mente que a incapacidade da humanidade de prever com precisão o futuro tem dois lados: às vezes somos excessivamente otimistas de que nunca seremos superados pelas máquinas, outras vezes somos o oposto. Ao longo da história, o surgimento de novas tecnologias transformadoras tem causado repetidamente alguma apreensão entre o meio académico e, por vezes, esses receios são exagerados. As mudanças provocadas pela IA – não apenas na matemática, mas em praticamente todos os outros campos – estão provavelmente a acontecer muito mais rapidamente do que qualquer revolução tecnológica anterior. Então, novamente, alguma ansiedade é perfeitamente natural.

Mas outra lição da história recente é que mesmo quando as máquinas nos vencem em alguma coisa, seja no xadrez ou no Go, as pessoas não desistem simplesmente de jogar. isto. Eles continuam jogando apenas por diversão. Mesmo que a IA no futuro esteja a formular novas provas matemáticas mais rapidamente do que alguma vez poderemos esperar, é improvável que os humanos, com toda a nossa curiosidade ilimitada, simplesmente parem de mexer na matemática ou de ensiná-la aos nossos filhos.

Isso presumindo, é claro, que todos nós sobreviveremos ao boom da IA.