O CEO da Hugging Face diz que seu P(Doom) está ‘perto de zero’

Risco da IA ​​futura são mais propensos a vir de grandes empresas que constroem em segredo, enquanto os modelos abertos jogam na defesa, disse Clément Delangue, CEO da Hugging Face, na quarta-feira na WIRED World Fair em Miami.

“A maior parte do risco é, na verdade, criada por alguns jogadores que constroem a portas fechadas”, disse Delangue. “A maior parte da mitigação deste risco será o ecossistema completo, o que significa que todos poderão construir ao ar livre.”

A Hugging Face é uma das primeiras empresas a ser atacada por uma IA desonesta. Em julho deste ano, os agentes testados pela OpenAI libertaram-se de sua sandbox e optaram por atacar a startup em busca de respostas para problemas que deveriam resolver. A empresa usou um modelo chinês aberto chamado GLM-5.2 para investigar e conter o ataque.

Delangue observou que o mau comportamento dos agentes, até agora, veio principalmente de grandes empresas que estão testando a IA de fronteira em segredo. Ele disse que riscos futuros, talvez envolvendo as capacidades biológicas dos modelos ou a sua capacidade de se melhorarem recursivamente, provavelmente também surgirão destes laboratórios fechados.

Delangue observou que a Hugging Face optou por não buscar recursos legais contra a OpenAI pelo ataque, mas acrescentou que aqueles que implantam agentes de IA devem ser legalmente responsáveis ​​por suas ações. “Os ataques cibernéticos são ilegais e acho que é muito importante garantirmos que os ataques cibernéticos de agentes sejam ilegais”, disse ele no evento. “Não queremos criar um ambiente onde não haja propriedade. Não há responsabilidade por ataques cibernéticos.”

Em contraste com alguns investigadores de IA que alertaram que a tecnologia poderia representar um risco existencial para a humanidade, Delangue disse que o seu P(desgraça) – a probabilidade de isto acontecer – é “próximo de zero”. “Existem muitos outros tópicos que poderiam destruir o mundo”, disse ele.

Hugging Face é uma plataforma proeminente para modelos de IA abertos ou para download. Seus usuários podem compartilhar e acessar modelos hospedados pela empresa ou baixá-los para seus próprios sistemas computacionais.

A Nvidia, fabricante de chips de IA dominante no mundo, anunciou que iria adquirir a plataforma por US$ 12,93 bilhões em setembro. Quando a aquisição foi anunciada, a Hugging Face disse que tinha cerca de 18 milhões de usuários.

Delangue também revelou na WIRED World Fair que Hugging Face agora tem mais de 20 milhões de construtores de IA, sugerindo um rápido crescimento. Delangue também revelou que Hugging Face vendeu 50.000 Microducks, um robô fofo de duas pernas da Hugging Face que pode ser programado usando IA.

Delangue disse na conferência que o sucesso da IA ​​de código aberto também será crucial para evitar que algumas empresas e indivíduos dominem completamente o futuro.

“Poderíamos claramente acabar num mundo onde apenas algumas empresas controlam a maior parte da IA”, disse Delangue. “Existem tendências naturais muito fortes porque (algumas empresas) realmente monopolizam talentos, computação e capacidades.”

Delangue disse que permitir que mais pessoas baixem e personalizem a IA levaria a um futuro tecnológico mais democratizado. O CEO da Hugging Face disse que a aquisição da Nvidia permitiria à empresa competir, já que a IA exige cada vez mais recursos.