Hugging Face ❤️ TorchTPU: TPU, नेटिव रूप में
Hugging Face ने बताया कि मूल PyTorch बैकएंड TorchTPU से उसकी Transformers, Diffusers और Kernels लाइब्रेरी पुराने PyTorch/XLA उपायों के बिना सीधे Google TPU पर चलती हैं। TPU पर चले लाइब्रेरी परीक्षणों में 96.5% सफल रहे और परियोजना को 34 समस्याएँ बताई गईं, जिनमें 19 ठीक हो चुकी हैं।
लेख में क्या कहा गया है
20 अक्टूबर 2026 को Hugging Face ने TorchTPU पेश किया, जो एक नेटिव PyTorch बैकएंड है और Google के TPU को एक और सामान्य डिवाइस की तरह मानता है। Transformers, Diffusers और Kernels अब सीधे TPU पर चलते हैं: Hub से मॉडल लोड करके उसे «tpu» डिवाइस पर भेजना होता है।
अब तक PyTorch उपयोगकर्ताओं को PyTorch/XLA इस्तेमाल करना पड़ता था, जिसका विलंबित निष्पादन और पुनर्संकलन चौंका सकता था। TorchTPU में TPU के लिए ट्यून किए गए Pallas कर्नेल, वितरित प्रशिक्षण और torch.compile एकीकरण है। Cloud TPU v6e-4 पर बेंचमार्क में, उदाहरण के लिए, Qwen-Image-2.1 कम्पाइल्ड मोड में 3.5 s बनाम eager में 8.0 s लेता है, और TPU कर्नेल वाले मिक्सचर-ऑफ़-एक्सपर्ट्स मॉडल में डिकोडिंग 21.5 गुना तक तेज़ है। Hugging Face के अनुसार TPU पर चलने वाले Transformers के 96.5% टेस्ट पास होते हैं, काम जारी है और रात्रिकालीन CI की योजना है।
आधिकारिक लेख पढ़ें AnnuIA प्रोफ़ाइल
यह सारांश AnnuIA ने Hugging Face के आधिकारिक पृष्ठ के आधार पर अपने शब्दों में लिखा है। सामग्री और अधिकार प्रकाशक के हैं: कृपया मूल लेख पढ़ें।