O Google se juntou à Amazon no ataque à fortaleza da Nvidia com desenvolvedores de aplicativos de IA

Na terça-feira, o Google anunciou que TorchTPU, sua tão esperada versão do PyTorch, agora está disponível como um projeto de código aberto. Com isso, o Google se junta à Amazon na tentativa de quebrar o domínio da Nvidia na indústria de IA, onde a maioria dos aplicativos de IA são escritos por padrão para rodar em chips ou GPUs da Nvidia.

PyTorch é o popular kit de ferramentas de código aberto que desenvolvedores de aplicativos de IA e startups usam para construir, treinar e executar modelos de IA. É, segundo alguns relatos, usado por 85% dos aplicativos de IA. PyTorch foi originalmente desenvolvido pela Meta (então Facebook) em 2016, muito antes de o mundo ter a ideia de que os LLMs mudariam o mundo. Na época, as GPUs da Nvidia já eram o hardware padrão para pesquisas de IA, então muitos dos recursos do PyTorch foram desenvolvidos para funcionar especificamente com elas. Em 2022, Meta entregou o PyTorch à Linux Foundation, uma organização sem fins lucrativos que gerencia muitos projetos importantes de código aberto.

A versão do Google, TorchTPU, permite que aplicativos de IA sejam executados em chips de IA do Google, chamados Tensor Processing Units (TPUs). Também facilita a migração de aplicativos PyTorch existentes para TPUs e, portanto, para o Google Cloud. Os desenvolvedores podem fazer isso com uma simples alteração de configuração e sem reescrever seus aplicativos.

A Amazon fez um anúncio semelhante na segunda-feira, quando lançou sua própria versão do PyTorch, chamada TorchNeuron. O TorchNeuron permite que aplicativos de IA sejam portados para o chip de IA desenvolvido internamente pela Amazon, Trainium, e para AWS sem reescrita. A Amazon também disse que está indo ainda mais longe em seu esforço para afrouxar o controle da Nvidia sobre o PyTorch. Ele está enviando código para o projeto principal PyTorch que separa vários recursos dos chips da Nvidia, tornando-o mais aberto a qualquer hardware por padrão.

No entanto, o Google pode estar superando a Amazon em alguns aspectos. Ele diz que trabalhou diretamente com Meta, Hugging Face, Inferact (criador do vLLM) RadixArk (criador do SGLang) e outros para garantir que os recursos e bibliotecas de código do TorchTPU funcionem bem com essas ferramentas populares de desenvolvimento de IA, assim como o PyTorch original.

Além disso, o gigante das buscas lançou uma ferramenta dedicada, o conjunto de agentes TPU, para ajudar os desenvolvedores a migrar seus aplicativos para os chips e a nuvem do Google e corrigir erros ao longo do caminho. Ela até atualizou sua popular ferramenta LiteRT, que executa IA em telefones, laptops e dispositivos incorporados, para funcionar melhor com aplicativos PyTorch AI.

Nada disso significa que os desenvolvedores de aplicativos de IA abandonarão automaticamente o hardware da Nvidia em massa só porque agora podem migrar facilmente para chips e nuvens alternativos. Mas a Amazon e o Google estão claramente trabalhando para acabar com a vantagem da Nvidia.