PyTorch 2.15 में MPS
PyTorch 2.15 Apple silicon Mac पर FP8 टेंसर सपोर्ट जोड़ता है और भाषा-मॉडल डिकोडिंग को, खासकर मिक्सचर-ऑफ़-एक्सपर्ट्स मॉडलों में, तेज़ करता है; अधिक GPU रैखिक बीजगणित और कुछ ऑपरेशन समर्पित Metal कर्नेल पर गए हैं। इसके लिए macOS 15+ और Python 3.11+ चाहिए; 2.16 में अटेंशन पूरी तरह Metal पर चलेगा।
लेख में क्या कहा गया है
20 अक्टूबर 2026 की पोस्ट में Hugging Face की PyTorch टीम MPS बैकएंड की प्रगति बताती है, जो Apple Silicon Mac के GPU पर PyTorch चलाता है, संस्करण 2.15 (अभी रिलीज़ कैंडिडेट) के साथ। टीम Hub के असली मॉडल पर परीक्षण करती है, समस्याएँ अपस्ट्रीम में ठीक करती है और MPSGraph की जगह धीरे-धीरे समर्पित Metal कर्नेल ला रही है।
नया क्या है: F.scaled_mm के साथ FP8 समर्थन, तेज़ LLM डिकोडिंग (MoE परतें 2.14 से 5 से 6.5 गुना तक तेज़, softmax लगभग 8 गुना तेज़), नए रैखिक बीजगणित और कन्वोल्यूशन ऑपरेशन, और Python से नियंत्रित MPS स्ट्रीम। M3 Ultra पर Qwen3.6-35B-A3B 9.4 से 61.3 टोकन/सेकंड हुआ, Wan2.2 का VAE डिकोड 270 GiB से अधिक की जगह लगभग 8 GiB में आता है, और ComfyUI में चित्र बिगाड़ने वाली त्रुटि ठीक हुई। न्यून��म macOS 15 और Python 3.11 चाहिए; माप टीम के अपने हैं।
आधिकारिक लेख पढ़ें AnnuIA प्रोफ़ाइल
यह सारांश AnnuIA ने Hugging Face के आधिकारिक पृष्ठ के आधार पर अपने शब्दों में लिखा है। सामग्री और अधिकार प्रकाशक के हैं: कृपया मूल लेख पढ़ें।