↓

Анонс Hugging Face ·

MPS в PyTorch 2.15

PyTorch 2.15 добавляет тензоры FP8 на Mac с Apple silicon и ускоряет декодирование языковых моделей, особенно со смесью экспертов; больше линейной алгебры идёт на GPU, часть операций перенесена на отдельные ядра Metal. Нужны macOS 15+ и Python 3.11+; в 2.16 внимание целиком в��полнится на Metal.

О чём статья

В публикации от 20 октября 2026 года команда PyTorch в Hugging Face рассказывает о развитии бэкенда MPS, запускающего PyTorch на GPU компьютеров Mac с Apple Silicon, в версии 2.15 (пока release candidate). Команда тестирует реальные модели с Hub, исправляет проблемы в основном проекте и всё чаще заменяет MPSGraph специализированными ядрами Metal.

Среди новинок: поддержка FP8 с F.scaled_mm, более быстрое декодирование LLM (слои MoE до 5–6,5 раза быстрее, чем в 2.14, softmax примерно в 8 раз быстрее), новые операции лине��ной алгебры и свёрток, а также потоки MPS, управляемые из Python. На M3 Ultra Qwen3.6-35B-A3B ускоряется с 9,4 до 61,3 токена/с. Декодирование VAE Wan2.2 укладывается примерно в 8 ГиБ вместо более чем 270 ГиБ, исправлена ошибка, портившая изображения в ComfyUI. Нужны macOS 15 и Python 3.11 или новее; измерения проведены самой командой.

Читать официальную статью Карточка AnnuIA

Краткое изложение написано AnnuIA своими словами по официальной странице Hugging Face. Содержание и права принадлежат издателю: читайте оригинальную статью.

Ещё анонсы Hugging Face

Последние новости ИИ

Все новости