Hugging Face ❤️ TorchTPU：原生支持TPU
Hugging Face宣布，原生PyTorch后端TorchTPU让其Transformers、Diffusers和Kernels库可直接在谷歌TPU上运行，无需旧的PyTorch/XLA变通方案。在TPU上运行的库测试通过率为96.5%，已向项目报告34个问题，其中19个已修复。
文章要点
2026年10月20日，Hugging Face发布了TorchTPU，这是一个原生PyTorch后端，把谷歌TPU当作又一种普通设备。Transformers、Diffusers和Kernels现在可直接在TPU上运行：从Hub加载模型后移到“tpu”设备即可。
此前，PyTorch用户必须使用PyTorch/XLA，其惰性执行和重新编译可能带来意外行为。TorchTPU带来了针对TPU调优的Pallas内核、分布式训练和torch.compile集成。在Cloud TPU v6e-4上的基准测试显示，例如Qwen-Image-2.1编译后为3.5秒，而eager模式为8.0秒；使用TPU内核的混合专家模型解码最高快21.5倍。Hugging Face表示，在TPU上运行的Transformers测试通过率为96.5%，工作仍在进行，并计划建立夜间CI。
本摘要由 AnnuIA 根据 Hugging Face 官方页面用自己的话撰写。内容及版权归发布方所有，请阅读原文。