Hugging Face ❤️ TorchTPU:TPUをネイティブに
Hugging Faceは、ネイティブなPyTorchバックエンドTorchTPUにより、Transformers、Diffusers、KernelsがGoogleのTPU上で、従来のPyTorch/XLAの回避策なしに直接動くと発表した。TPUで実行したライブラリテストの96.5%が成功し、プロジェクトに報告した34件の課題のうち19件が修正された。
記事の内容
Hugging Faceは2026年10月20日、GoogleのTPUを単なるもう一つのデバイスとして扱えるPyTorchネイティブのバックエンド「TorchTPU」を発表しました。Transformers、Diffusers、KernelsがTPU上で直接動作し、Hubからモデルを読み込んで「tpu」デバイスに移すだけで使えます。
これまでPyTorchユーザーはPyTorch/XLAを使う必要があり、遅延実行や再コンパイルが想定外の挙動を招くことがありました。TorchTPUはTPU向けに調整されたPallasカーネル、分散学習、torch.compile連携を備えます。Cloud TPU v6e-4でのベンチマークでは、Qwen-Image-2.1がeagerの8.0秒に対しコンパイルで3.5秒、TPUカーネルを使うMixture-of-Expertsモデルのデコードは最大21.5倍高速とされています。TPUで実行されるTransformersのテストの96.5%が通過し、作業は継続中で、夜間CIも計画されていると述べています。
この要約は、Hugging Face の公式ページをもとに AnnuIA が自分の言葉で作成しました。内容および権利は発行元に帰属します。元の記事をご覧ください。