Hugging Face ❤️ TorchTPU: TPUs, nativamente
A Hugging Face anuncia que o TorchTPU, backend nativo do PyTorch, permite que Transformers, Diffusers e Kernels rodem diretamente nas TPUs do Google, sem os antigos contornos do PyTorch/XLA. 96,5% dos testes executados em TPU passam, e 34 problemas foram reportados ao projeto, 19 já corrigidos.
O que diz o artigo
Em 20 de outubro de 2026, a Hugging Face apresentou o TorchTPU, um backend nativo do PyTorch que trata as TPUs do Google como mais um dispositivo. Transformers, Diffusers e Kernels agora funcionam diretamente em TPU: carrega-se um modelo do Hub e move-se para o dispositivo «tpu».
Até agora, os usuários de PyTorch precisavam usar o PyTorch/XLA, cuja execução adiada e recompilações podiam surpreender. O TorchTPU traz kernels Pallas otimizados, treinamento distribuído e integração com torch.compile. Testes em um Cloud TPU v6e-4 mostram, por exemplo, o Qwen-Image-2.1 em 3,5 s compilado contra 8,0 s no modo eager, e decodificação até 21,5 vezes mais rápida em um modelo de mistura de especialistas com kernels para TPU. A Hugging Face diz que 96,5% dos testes do Transformers executados em TPU passam, que o trabalho está em andamento e que um CI noturno está planejado.
Ler o artigo oficial Ficha AnnuIA
Resumo escrito pela AnnuIA com suas próprias palavras, com base na página oficial de Hugging Face. O conteúdo e os direitos pertencem ao editor: consulte o artigo original.