Os pesquisadores estão cansados de que a OpenAI proteja seus avanços
Na segunda-feira, a OpenAI anunciou avanços impressionantes em matemática, ciência da computação e física, juntamente com o que a empresa afirma ser uma abordagem em evolução para comunicar suas descobertas. Mas apesar da aparente correção de curso, os pesquisadores que conversaram com A beira estão cada vez mais cansados das palhaçadas da empresa.
Os últimos meses foram turbulentos entre a OpenAI e os matemáticos, que ainda estão lutando com as centenas de pré-impressões despejadas sem cerimônia sobre eles no início de outubro. Desta vez, a OpenAI diz que está trabalhando com “pastores” especialistas para decidir a melhor forma de compartilhar suas últimas descobertas.
Todos os três resultados dizem respeito a alguns dos problemas não resolvidos de maior importância em matemática, ciência da computação e física. Alguns ampliam o trabalho anterior da OpenAI e outros abrem novos caminhos. Seguindo os conselhos dos “pastores” da OpenAI, cada um tem uma estratégia de lançamento diferente. Para o resultado matemático, a OpenAI divulgou o resultado gerado pela IA, “deixando os pesquisadores livres para organizar seus próprios esforços para explicar o resultado”. Para a sua descoberta em ciência da computação, a OpenAI também reunirá um grupo externo de pesquisadores “para explicar o resultado”. Enquanto isso, a física não foi divulgada e a OpenAI disse que “adiará” para um grupo externo de especialistas sobre como liberar os materiais.
- O resultado matemático parece impressionante. Pretende resolver a conjectura de Kakeya em todas as dimensões. Grosso modo, o problema questiona quão pouco espaço é necessário para girar uma agulha ou lápis em todas as direções. Uma prova da versão tridimensional estava entre as conquistas pelas quais o matemático Hong Wang, da NYU, recebeu a prestigiada Medalha Fields no início deste ano. O professor de matemática da Brown University, Brendan Hassett, disse A beira A afirmação da OpenAI “parece bem apoiada”, embora ele tenha enfatizado que ainda não havia verificado a formalização Lean, um meio de verificar computacionalmente os resultados.
- O resultado da física explora o Modelo Padrão, a estrutura teórica mais completa e bem-sucedida da física. Trata-se da cromodinâmica quântica, que descreve a força nuclear forte, uma das quatro forças fundamentais da natureza (ao lado da força gravitacional, da força eletromagnética e da força nuclear fraca) e sua relação com a teoria de Yang-Mills, uma pedra angular da física de partículas moderna. A teoria de Yang-Mills também está no centro de um dos sete problemas do Prémio Milénio em matemática, embora o trabalho da OpenAI não aborde a “lacuna de massa” não resolvida.
- O resultado final afirma refutar a hipótese do tempo exponencial, uma suposição amplamente difundida na ciência da computação teórica de que certos problemas não podem ser resolvidos substancialmente mais rápido do que as abordagens de força bruta. Está intimamente relacionado com P versus NP, outro problema do Prémio Milénio e um dos maiores problemas não resolvidos da área, que questiona se problemas cujas soluções podem ser facilmente verificadas também são fáceis de resolver.
Dados os diferentes níveis de divulgação e a complexidade da avaliação desse trabalho, é difícil para os investigadores julgarem plenamente as conclusões da empresa. Mesmo com todas as informações, isso levaria tempo. Mas os especialistas que conversaram com A beira disse que há boas razões para levar a sério os resultados, descrevendo-os como “enormes”, “grandes avanços” e “significativos”.
“Não faz sentido que primeiro apenas alguns cientistas ilustres possam analisá-los.”
Mas o entusiasmo dos investigadores em relação à ciência foi temperado pela exasperação com a conduta da OpenAI, um sentimento familiar após meses do que descrevem como uma barragem exaustiva de descobertas geradas pela IA. Muitos estavam ansiosos para que a comunidade em geral continuasse com a árdua tarefa de examinar minuciosamente as descobertas do laboratório de IA e questionaram por que a OpenAI estava colocando barreiras adicionais ao escolher especialistas para supervisionar o processo.
A maioria dos especialistas A beira conversou com saudou a decisão da OpenAI de consultar pesquisadores externos, mas argumentou que anunciar publicamente os resultados também deveria significar disponibilizar esse trabalho para qualquer pessoa examinar. “Para mim, é bom que divulguem os problemas como fizeram hoje”, disse Constantin Kogler, pesquisador do Instituto de Estudos Avançados, saudando o lote mais administrável de três resultados em comparação com as centenas divulgados anteriormente. Mas ele questionou a decisão de restringir o acesso a especialistas escolhidos pela OpenAI. “Não faz sentido que primeiro apenas alguns cientistas ilustres possam analisá-los”, disse ele.
“O fato de eles escolherem o grupo a dedo é um desastre”, disse Andreas Karch, professor de física da Universidade do Texas em Austin. A beira. “Os grandes laboratórios já têm poder suficiente. Eles não deveriam escolher vencedores e perdedores.” Karch sugeriu inicialmente selecionar investigadores através de um “processo competitivo”, embora reconhecesse que provavelmente produziria um grupo semelhante, que descreveu como “de primeira linha”. Posteriormente, questionou por que a OpenAI “não pode divulgar a prova agora”, além de nomear sua equipe de especialistas. “Isso democratizaria o acesso e ao mesmo tempo mostraria que eles se preocupam em tornar os resultados significativos e compreensíveis”, disse ele.
“Minha sensação é que, para qualquer abordagem, haverá alguém que ficará chateado.”
É exatamente o tipo de controle do Grupo Consultivo em Matemática e Inteligência Artificial (AGMAI), um grupo de especialistas que a OpenAI havia anteriormente prometido consultar sobre como compartilhar suas descobertas, contra o qual alertou apenas um dia antes do anúncio. “Recomendamos que as empresas de IA não adoptem esta prática”, afirmaram, argumentando que seleccionar certas pessoas para receberem primeiro os resultados é “desnecessário”, empresta a reputação de investigadores seleccionados e corre o risco de acesso desigual, selecção tendenciosa e atrasos, entre outras questões. Em vez disso, recomendaram que os laboratórios de IA divulgassem os resultados em repositórios académicos, com provas formalizadas e informações sobre como os problemas foram escolhidos, e fornecessem financiamento e outro apoio às pessoas que trabalham na compreensão dos resultados.
Após a publicação dos últimos resultados, a AGMAI instou a OpenAI a “tornar públicas sem demora a linguagem natural e os resultados Lean por trás dos resultados anunciados” em física:
“Embora essas sejam questões centrais na física, elas também são questões importantes na matemática. A existência da teoria quântica de Yang-Mills é parte de um problema do Prêmio Milênio e a construção de teorias quânticas de campos interativos em quatro dimensões tem sido um objetivo da física matemática há décadas.
Temos grande respeito pelos cientistas convidados pela OpenAI para liderar este trabalho. Mas, como explicámos na nossa declaração recente, a compreensão deve desenvolver-se abertamente, com todos tendo o mesmo acesso. A OpenAI disse que adiou o lançamento até que a formalização do Lean fosse concluída. Segundo eles próprios, isso agora está completo, portanto não há razão científica para adiar ainda mais a divulgação.”
Disponibilizar abertamente as descobertas também poderia levar a uma ciência melhor e encorajar uma adoção mais ampla de novas ferramentas como a IA, disse Hassett. “Ter muitos grupos em todo o mundo a lutar com estes resultados apoia a rápida adopção de novas ferramentas por aqueles que gostariam de as utilizar”, disse ele.
“Os resultados fundamentais estão sendo resolvidos tão rapidamente sem a contribuição humana… os documentos são difíceis de ler e verificar.”
Encontrar uma maneira de se comunicar com pesquisadores nas áreas que a OpenAI está cada vez mais invadindo e que satisfaz a todos pode ser impossível. A empresa diz que está experimentando abordagens diferentes e reconhece que cada uma tem vantagens e desvantagens. “Minha sensação é que, para qualquer abordagem, haverá alguém que ficará chateado”, disse o matemático de Stanford, Jared Duker Lichtman. “Portanto, é apenas uma questão de encontrar a opção menos ofensiva.”
Xiaoyu He, professor de matemática do Instituto de Tecnologia da Geórgia, acredita que o problema é mais profundo do que a forma como a OpenAI decide anunciar suas descobertas. “Os resultados são muito impressionantes”, disse ele, “mas acho que eles estão tentando ser responsáveis e cuidadosos sobre como divulgam os resultados, sem serem capazes de mudar as questões principais: que os resultados fundamentais estão sendo resolvidos tão rapidamente sem contribuição humana, e que os documentos são difíceis de ler e verificar”.
