Sam Altman simpatiza com os matemáticos, mas diz que o ataque matemático da OpenAI não vai parar
Depois de meses bombardeando matemáticos com um fluxo implacável de resultados gerados por IA, o CEO da OpenAI, Sam Altman, diz que simpatiza com os pesquisadores que lutam para entender tudo isso. Mas ele não tem intenção de parar – e sugere que pode haver muito mais por vir do estoque de descobertas da empresa.
“Acho que, na rede, o mundo merece entender como o universo funciona”, disse Altman durante um episódio do Pinta atrevida podcast lançado quinta-feira. “Mas tenho empatia pelo método.”
Altman argumentou que o direito do público a novos conhecimentos científicos “supera” a perturbação causada pelos lançamentos da OpenAI, embora tenha reconhecido que a empresa precisa de melhorar a forma como comunica as suas descobertas. “Sinto-me inequívoco neste ponto: a humanidade merece conhecimento fundamental e não deveríamos estar sentados numa grande descoberta científica fundamental”, disse ele. “O mundo merece isso.”
Matemáticos conversando com A beira criticaram repetidamente a OpenAI pela forma como anuncia os seus resultados, citando atribuição inadequada, pouco contexto e verificação insuficiente. Os pesquisadores dizem que isso os obrigou a fazer um trabalho meticuloso de verificar e dar sentido às suas descobertas, mesmo enquanto a empresa avança com mais. Só neste mês, a OpenAI divulgou centenas de resultados matemáticos, muitas vezes com pouco mais do que breves artigos que os pesquisadores descreveram como mal escritos e difíceis de acompanhar.
No entanto, a OpenAI enfrenta agora críticas por fazer precisamente o que Altman diz que não deveria ser: basear-se em descobertas potencialmente significativas: Matemáticos e cientistas conversando com A beira esta semana disseram estar frustrados com o que consideram ser o controle da pesquisa da OpenAI, após o anúncio de três grandes avanços em matemática, física e ciência da computação. Os detalhes de um dos resultados reivindicados – envolvendo a teoria de Yang-Mills, os fundamentos matemáticos da física de partículas moderna – não foram divulgados publicamente. A OpenAI afirma que isso se deve às recomendações de um grupo escolhido de especialistas que consultou sobre a melhor forma de lançá-lo. A prática vai diretamente contra o conselho de um grupo anterior de matemáticos consultados pela empresa, mas faz parte do que a empresa diz ser uma nova abordagem para comunicar as suas descobertas.
No podcast, Altman sugere que a OpenAI também tem muito mais descobertas matemáticas do que tornou públicas. Questionado se a empresa tem mais do que as centenas de provas que já divulgou, Altman respondeu: “Temos. Claro”.
Altman também reconheceu que a busca de problemas matemáticos da OpenAI “saiu do controle” por um curto período de tempo, mas disse que isso foi deliberado e necessário para sondar os limites de seus modelos de IA. Ele descreveu um canal interno do Slack chamado “Model Name-Hold My Beer”, onde os funcionários “estavam apenas jogando isso nos problemas mais difíceis que podiam” para ver o desempenho dos modelos.
Altman também estimou que a OpenAI gastou cerca de centenas de milhões de dólares na resolução de problemas matemáticos, incluindo cerca de 10 milhões de dólares – “talvez um pouco mais” – na sua solução Navier-Stokes, um dos lendários problemas matemáticos do Prémio Milénio. Os gastos oferecem uma ideia dos vastos recursos que os laboratórios de IA estão a utilizar para resolver problemas científicos, levantando preocupações entre os investigadores de que poderão ser excluídos dos seus próprios campos.
Parece que os matemáticos e outros pesquisadores que esperam respirar podem estar sem sorte.
