PyTorch 2.15のMPS
PyTorch 2.15は、Apple silicon MacでのFP8テンソル対応を追加し、特にMixture-of-Expertsモデルで言語モデルのデコードを高速化した。GPUでの線形代数が増え、一部の演算が専用のMetalカーネルへ移された。macOS 15以降とPython 3.11以降が必要で、2.16ではアテンションが完全にMetal上で動く予定。
記事の内容
Hugging FaceのPyTorchチームは2026年10月20日付の記事で、Apple SiliconのMacのGPU上でPyTorchを動かすMPSバックエンドの進展を、バージョン2.15(まだリリース候補)とともに紹介しています。Hub上の実モデルで検証し、問題を上流で修正し、MPSGraphを専用のMetalカーネルへ置き換えていく方針です。
主な内容は、F.scaled_mmによるFP8対応、LLMデコードの高速化(MoE層は2.14比で最大5〜6.5倍、softmaxは約8倍)、線形代数・畳み込み演算の追加、Pythonから制御できるMPSストリームです。M3 UltraでQwen3.6-35B-A3Bは9.4から61.3トー��ン/秒になり、Wan2.2のVAEデコードは270GiB超から約8GiBに収まり、ComfyUIで画像が壊れる不具合も修正されました。macOS 15とPython 3.11以上が必要で、数値はチーム自身の測定です。
この要約は、Hugging Face の公式ページをもとに AnnuIA が自分の言葉で作成しました。内容および権利は発行元に帰属します。元の記事をご覧ください。