DeepSeek aumenta a pressão sobre OpenAI e Anthropic com ferramenta de inferência de código aberto
Não muito tempo atrás, muitas empresas incentivavam os funcionários a usar a IA tanto quanto humanamente possível. Mas à medida que as contas de IA aumentaram, o token maxxing rendeu-se ao antiquado aperto de cintos. A gigante de consultoria Accenture, que no início deste ano supostamente disse aos funcionários seniores que eles poderiam começar a usar IA ou dar adeus às chances de serem promovidos à liderança, recentemente ordenou que muitos funcionários limitassem seus gastos mensais com Claude a US$ 29 por mês, de acordo com 404 Mídia.
Os desenvolvedores de IA são começando a receber o memorando: reduza custos ou fique para trás.
Essa pressão cresceu graças à proliferação de poderosos modelos de código aberto provenientes da China, que são drasticamente mais baratos tanto para treinar como para operar. E agora a DeepSeek – a startup sediada em Hangzhou que abalou gravemente o Vale do Silício no início do ano passado com o lançamento de seu modelo R1 – está apertando ainda mais os parafusos do OpenAI e do Anthropic, disponibilizando gratuitamente sua ferramenta interna de inferência em GitHub.
A ferramenta, chamada DeepInfer, atualmente foi construída apenas para executar o Flash V4-1 do próprio DeepSeek, uma versão mais rápida, eficiente e barata do principal modelo de IA da empresa. “Estamos compartilhando nossa pilha de produção para ajudar a comunidade a reduzir custos de computação, reduzir o uso de energia e tornar a IA mais acessível”, disse a empresa em um post X. Os futuros modelos DeepSeek serão adicionados à estrutura à medida que se tornarem disponíveis publicamente, disse a empresa em uma postagem de acompanhamento.
A inferência, o processo em que um modelo treinado é realmente implantado para gerar novos resultados com base em um prompt, é uma das fases computacionalmente mais caras do ciclo de vida da IA. Esses custos aumentaram à medida que os desenvolvedores se concentraram mais em impulsionar a agência dos modelos ou a sua capacidade de lidar com tarefas complexas do mundo real que exigem muitas etapas individuais e, às vezes, frotas de subagentes. No início deste ano, um relatório da McKinsey & Company descobriu que, até o final da década, a maior parte da computação gerada pelos data centers iria para a inferência, e não para o treinamento de novos modelos.
Um dos maiores desafios emergentes para as empresas americanas de IA tem sido, portanto, oferecer ferramentas de IA de ponta sem os custos de inferência descontrolados que podem causar uma grande redução nos orçamentos dos clientes e, em alguns casos, fazer com que abandonem o navio em favor de alternativas mais baratas de código aberto de laboratórios chineses. O V4.1-Flash da DeepSeek custa atualmente apenas US$ 0,035 por milhão de tokens de entrada e US$ 0,12 por milhão de tokens de saída, de acordo com OpenRouter. O GPT-6 Astra da OpenAI, por outro lado, custa US$ 10 e US$ 50, respectivamente.
O governo federal não está entusiasmado com a crescente adoção dos modelos chineses de código aberto em todos os EUA. Na segunda-feira, a administração Trump proibiu agências civis federaiscomo o Departamento de Estado, de usar as ferramentas de IA do DeepSeek. A regra, entretanto, não proíbe empresas ou organizações privadas de fazê-lo.
Ao aproveitar múltiplas técnicas de inferência, como decodificação especulativa, o DeepInfer poderia ajudar os clientes do DeepSeek a reduzir ainda mais seus custos de gastos com IA, adicionando mais incentivos para as empresas se separarem do ChatGPT ou Claude. Sua jogada, OpenAI e Antrópico.
