↓

Anúncio Hugging Face ·

MPS no PyTorch 2.15

O PyTorch 2.15 adiciona tensores FP8 em Macs com Apple silicon e acelera a decodificação de modelos de linguagem, sobretudo de mistura de especialistas, com mais álgebra linear na GPU e operações em kernels Metal dedicados. Exige macOS 15 ou posterior e Python 3.11 ou posterior; a 2.16 executará a atenção inteiramente no Metal.

O que diz o artigo

Num artigo de 20 de outubro de 2026, a equipe PyTorch da Hugging Face apresenta avanços no backend MPS, que executa o PyTorch nas GPUs dos Macs com Apple Silicon, com a versão 2.15 (ainda em release candidate). A equipe testa modelos reais do Hub, corrige problemas na origem e substitui cada vez mais o MPSGraph por kernels Metal dedicados.

Entre as novidades: suporte a FP8 com F.scaled_mm, decodificação de LLMs mais rápida (camadas MoE até 5 a 6,5 vezes mais rápidas que na 2.14, softmax cerca de 8 vezes mais rápido), novas operaç��es de álgebra linear e convolução, e streams MPS controláveis a partir do Python. Num M3 Ultra, o Qwen3.6-35B-A3B passa de 9,4 para 61,3 tokens/s. A decodificação VAE do Wan2.2 cabe em cerca de 8 GiB em vez de mais de 270 GiB, e um bug que corrompia imagens no ComfyUI foi corrigido. São exigidos macOS 15 e Python 3.11 no mínimo; as medições são da própria equipe.

Ler o artigo oficial Ficha AnnuIA

Resumo escrito pela AnnuIA com suas próprias palavras, com base na página oficial de Hugging Face. O conteúdo e os direitos pertencem ao editor: consulte o artigo original.

Mais anúncios de Hugging Face

Últimas notícias de IA

Todas as notícias