↓

Annonce Hugging Face ·

Hugging Face ❤️ TorchTPU : les TPU, en natif

Hugging Face annonce que TorchTPU, backend PyTorch natif, permet à Transformers, Diffusers et Kernels de tourner directement sur les TPU de Google, sans les anciens contournements PyTorch/XLA. 96,5 % des tests de la bibliothèque exécutés sur TPU réussissent, et 34 problèmes ont été signalés au projet, dont 19 corrigés.

Ce que dit l'article

Le 20 octobre 2026, Hugging Face a présenté TorchTPU, un backend PyTorch natif qui traite les TPU de Google comme un simple périphérique supplémentaire. Transformers, Diffusers et Kernels fonctionnent désormais directement sur TPU : on charge un modèle depuis le Hub et on le place sur le périphérique « tpu ».

Jusqu'ici, les utilisateurs de PyTorch devaient passer par PyTorch/XLA, dont l'exécution différée et les recompilations pouvaient surprendre. TorchTPU apporte des noyaux Pallas optimisés, l'entraînement distribué et une int��gration de torch.compile. Les benchmarks sur Cloud TPU v6e-4 montrent par exemple Qwen-Image-2.1 en 3,5 s compilé contre 8,0 s en mode eager, et un décodage jusqu'à 21,5 fois plus rapide sur un modèle à experts avec des noyaux TPU. Hugging Face indique que 96,5 % des tests de Transformers exécutés sur TPU passent, que l'effort est en cours et qu'un CI nocturne est prévu.

Lire l'article officiel Fiche AnnuIA

Résumé rédigé par AnnuIA avec ses propres mots, d'après la page officielle de Hugging Face. Le contenu et les droits appartiennent à l'éditeur : consultez l'article d'origine.

Autres annonces de Hugging Face

Dernières actualités IA

Toutes les actualités