Agências dos EUA emitem severa repreensão às empresas de IA sediadas na China por suposta destilação
A Agência de Segurança Nacional dos EUA (NSA), a Agência de Segurança Cibernética e de Infraestrutura (CISA) e o FBI divulgaram um comunicado na terça-feira acusando empresas de IA baseadas na China de “campanhas de destilação em escala industrial contra empresas de IA dos EUA”.
“Provavelmente com a conscientização do governo chinês, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.AI extraíram bilhões de tokens em milhões de trocas/solicitações de modelos de IA de fronteira dos EUA, incluindo variantes de Claude, GPT, Gemini e Grok, pelo menos desde o final de 2024”, alega a declaração. Chama os esforços de “agressivos, maliciosos e direcionados”.
O momento se alinha com um grande encontro de mentes EUA-China acontecendo em breve. A Reuters informou na semana passada que em algum momento deste mês, o secretário do Tesouro, Scott Bessent, se reuniria com autoridades chinesas para negociações sobre segurança de IA.
A destilação é uma técnica legítima e amplamente aceita no desenvolvimento de IA. Na destilação, um modelo de “professor” mais poderoso pode conferir a capacidade de gerar resultados mais úteis e precisos a um modelo de “aluno” menor, resultando em um modelo compactado, mas eficaz. Mas laboratórios de IA de ponta, como o Anthropic, historicamente não medem esforços para evitar a destilação de seus modelos por outros laboratórios. “Os modelos ilicitamente destilados carecem das salvaguardas necessárias, criando riscos significativos para a segurança nacional”, escreve a Anthropic.
No ano passado, a OpenAI esteve na vanguarda da luta contra a destilação, a certa altura dizendo ao Financial Times que tinha reunido as suas próprias provas de que a DeepSeek, sediada na China, tinha realizado destilação contra a sua vontade. Mas em suas declarações mais recentes sobre a destilação, o CEO da OpenAI, Sam Altman, começou a parecer menos preocupado do que sugeria o comportamento anterior de sua empresa. “Eu preferiria que as pessoas não destilassem de nós, com certeza. Mas isso não está na minha lista das dez principais preocupações”, disse ele em entrevista em julho.
Viajar mentalmente no tempo para o passado empoeirado e esquecido de dois anos atrás é um exercício fascinante neste contexto. Ligando seu DeLorean para 2024 – o auge do discurso da “máquina de plágio” – você descobrirá que a OpenAI apresentou depoimento ao Parlamento do Reino Unido dizendo: “Como os direitos autorais hoje cobrem praticamente todo tipo de expressão humana – incluindo postagens em blogs, fotografias, postagens em fóruns, fragmentos de código de software e documentos governamentais – seria impossível treinar os principais modelos de IA de hoje sem usar materiais protegidos por direitos autorais”.
