A rivalidade da OpenAI com os matemáticos só está aumentando

Vinte e cinco matemáticos importantes assinaram uma carta aberta argumentando que os laboratórios de IA estão a ameaçar o seu trabalho intelectual enquanto procuram unir-se uns aos outros com soluções para problemas matemáticos famosos. Cada signatário recebeu a Medalha Fields, considerada o prêmio de maior prestígio em matemática.

Esta semana, o professor da NYU, Tristan Buckmaster, acusou a OpenAI de pressioná-lo a não creditar um colaborador que trabalha para a Anthropic por resolver um importante problema matemático, e se perguntou se a empresa havia usado seu trabalho com o Codex para produzir sua própria prova inovadora durante uma maratona de fim de semana de inferência.

Na quinta-feira, a OpenAI retirou o patrocínio de um evento de matemática na CalTech depois que a empresa foi criticada por pesquisadores da universidade.

Embora a capacidade dos modelos de IA para resolver os desafios matemáticos pendentes do mundo possa ser uma bênção para a humanidade, os signatários da nova carta argumentam que isso só será o caso se essas soluções puderem ser compreendidas e comunicadas pela comunidade matemática e, em última análise, pelo resto do mundo.

“Muitas vezes, essas soluções são anunciadas às pressas, não deixando tempo para uma redação adequada, o isolamento de novos métodos e ideias e a citação de trabalhos anteriores relevantes de outros”, escreveram eles – e a prova da OpenAI permanece sem verificação. “Como em todas as profissões criativas, isto levanta graves questões de atribuição e plágio. Além disso, sem os matemáticos dispostos a cuidar do seu desenvolvimento e integração no cânone matemático, as ideias concebidas pela IA nunca se tornariam plenamente vivas e a crucial cadeia de transmissão humana entre os matemáticos seria perdida.”

Com outros matemáticos a ficarem paranóicos e a questionarem-se se a sua utilização do Codex foi, por sua vez, alimentada nos novos modelos da OpenAI, existe um receio real de que a cultura da investigação aberta seja ameaçada. Hoje, se os laboratórios de fronteira virem um caminho útil para uma descoberta, poderão gastar dezenas de milhões de dólares utilizando LLMs para chegarem a uma prova antes dos investigadores originais – uma dinâmica que incentivará o sigilo.

Esta carta segue a Declaração de Leiden, divulgada por um grupo de trabalho de matemáticos em junho. Esse documento também aborda as formas como as provas LLM mudarão o seu trabalho e oferece um conjunto de recomendações para matemáticos, instituições e decisores políticos.

Tal como acontece com a engenharia de software e outras áreas onde as ferramentas de IA estão a mudar os fluxos de trabalho, os matemáticos encontram uma justificação no trabalho em torno do trabalho: o valor da matemática não está apenas nas provas e em quem recebe o crédito, mas na superestrutura intelectual que nutre os alunos, encontra novas questões e ideias e integra-as numa civilização humana mais ampla.

E se você não se importa particularmente com o mundo cruel das provas matemáticas de alto risco, não se esqueça: seu campo de interesse é o próximo.

“Os problemas que a comunidade matemática enfrenta agora são semelhantes aos problemas que outras profissões científicas e criativas enfrentam e indicam problemas que toda a humanidade poderá enfrentar: como garantir que, à medida que a IA muda a forma como o trabalho é feito, não percamos de vista o que esse trabalho pretendia alcançar em primeiro lugar”, escreveram.