Hugging Face ❤️ TorchTPU: TPU в нативном режиме
Hugging Face сообщает, что TorchTPU — нативный бэкенд PyTorch — позволяет Transformers, Diffusers и Kernels работать прямо на TPU Google без прежних обходных путей PyTorch/XLA. 96,5 % тестов библиотеки на TPU проходят; проекту передано 34 замечания, 19 исправлены.
О чём статья
20 октября 2026 года Hugging Face представила TorchTPU — нативный бэкенд PyTorch, который рассматривает TPU от Google как ещё одно устройство. Transformers, Diffusers и Kernels теперь работают прямо на TPU: модель загружается из Hub и переносится на устройство «tpu».
Ранее пользователям PyTorch приходилось работать через PyTorch/XLA, чья отложенная модель выполнения и перекомпиляции могли быть неожиданными. TorchTPU приносит оптимизированные ядра Pallas, распределённое обучение и интеграцию с torch.compile. Тесты на Cloud TPU v6e-4 показывают, например, Qwen-Image-2.1 за 3,5 с в скомпилированном режиме против 8,0 с в eager и декодирование до 21,5 раза быстрее на модели со смесью экспертов с ядрами для TPU. Hugging Face сообщает, что 96,5 % тестов Transformers, запускаемых на TPU, проходят, работа продолжается, а ночной CI запланирован.
Читать официальную статью Карточка AnnuIA
Краткое изложение написано AnnuIA своими словами по официальной странице Hugging Face. Содержание и права принадлежат издателю: читайте оригинальную статью.