Garry Tan, da Y Combinator, quer que os laboratórios de IA abertos dos EUA também ‘destilem’ modelos de fronteira

Quando se trata de laboratórios chineses de IA que usam técnicas de destilação para extrair conhecimento de fabricantes de modelos de fronteira, o CEO da Y Combinator, Garry Tan, espera que os reguladores fiquem fora disso. Na verdade, ele acha que os laboratórios de IA dos EUA talvez devessem jogar o mesmo jogo.

“Eu não faria nada”, disse ele à CNBC em entrevista no início desta semana. “Poderíamos argumentar que deveria haver um regime de destilação americano.”

Ele elaborou ao TechCrunch que isso significa que ele deseja que laboratórios americanos menores de IA de peso aberto usem o mesmo tipo de técnicas de treinamento nos laboratórios de IA de fronteira americana, dando aos EUA um conjunto mais robusto de opções de peso aberto que não são chinesas.

A destilação ocorre quando um criador de modelos solicita extensivamente outro modelo para aprender como ele funciona e seus motivos. É comumente e legitimamente usado por laboratórios de IA para ajudar a treinar novos modelos.

A Anthropic divulgou esta semana seu segundo relatório alegando que laboratórios chineses estão envolvidos em “ataques de destilação ilícita”, escondendo suas identidades para destilar sem permissão e contando com fraudes e credenciais roubadas para fazê-lo. O CEO da Anthropic, Dario Amodei, já havia pedido publicamente aos reguladores dos EUA que reprimissem a destilação.

É notável que o comandante da prestigiada e prolífica aceleradora de startups do Vale do Silício não concorde.

Para ser claro, Tan não está defendendo que os laboratórios americanos de IA usem credenciais roubadas para destilar. Ele quer que eles sejam livres para entrar pela porta da frente. Na verdade, seu argumento é duplo. Ele acha que é um exagero os laboratórios de IA ditarem o que seus clientes podem fazer com as informações que seus modelos compartilham com eles.

Ele também observa que os laboratórios proprietários de IA não pediram permissão quando aspiraram o máximo de conhecimento humano que puderam para treinar seus modelos. Eles notoriamente ingeriram muito material protegido por direitos autorais sem a permissão dos detentores da propriedade intelectual.

“Controlar o que os usuários e clientes fazem com chamadas de API para modelos de peso fechados parece restritivo, e há um papel que o governo pode desempenhar aqui para normalizar o fato de que o acesso à inteligência que foi treinada em dados de acesso público amplo também deveria ser mais uma forma de bem público do que algo trancado por termos de serviço restritivos”, disse ele ao TechCrunch quando questionado por que os laboratórios americanos também deveriam ser livres para destilar.

Tan, que é um usuário tão ávido de IA que certa vez se descreveu como tendo psicose cibernética, quer ver um equilíbrio entre laboratórios de IA abertos e laboratórios de fronteira.

“Eles estão na fronteira e impulsionando isso. Queremos que isso seja financiável e que seja um grande modelo de negócios contínuo”, disse ele à CNBC. “Você quer modelos abertos para dar liberdade e acesso às pessoas.”

Para ele, o verdadeiro cenário de destruição da IA ​​é que todo o imenso poder da IA ​​de fronteira acabe nas mãos de um único fornecedor poderoso e proprietário. “O cenário de pesadelo, o cenário destruidor para a IA, é que haja apenas uma empresa”, disse ele. “Tem o melhor acesso ao capital. Tem os melhores pesquisadores de IA. Ela foge e de repente surge uma empresa que é monolítica. E isso seria ruim.”