هل يعمل نموذجك على AWS Trainium؟ تحقق من ذلك

ما يقوله المقال

نشرت Hugging Face مقالاً عن دعم النماذج في TorchNeuron، الواجهة الخلفية الأصلية لـ PyTorch على AWS Trainium (الحزمة torch-neuronx). ولأن Transformers يشغّل شيفرة النمذجة الخاصة به على Trainium كما على أي جهاز آخر، فمن حيث المبدأ قد يعمل أي نموذج في Hub؛ والسؤال هو أيها يعمل فعلاً.

للإجابة أُطلق موردان: Space باسم torch-neuronx model support يبيّن هل تعمل النماذج الشائعة دون تعديل على Trainium، ومجموعة بيانات عامة aws-neuron/torch-neuronx-model-support تحفظ النتائج. يحمّل كل اختبار النموذج على trn2 ويولّد 32 رمزاً ويقارن الناتج بتشغيل على المعالج أو يطلب من نموذج حكم صغير التحقق من سلاسة النص؛ والنجاح لا يدل على معدل الإنتاجية. تُختبر فقط نماذج Transformers لتوليد النص والصورة-نص إلى نص التي تتسع لها 4 أجهزة Trainium2. يتوفر سكربت run.py، وتُخطَّط مهام أخرى.

اقرأ المقال الرسمي بطاقة AnnuIA

ملخص كتبته AnnuIA بكلماتها الخاصة اعتمادًا على الصفحة الرسمية لـ Hugging Face. المحتوى والحقوق تعود إلى الناشر، يُرجى قراءة المقال الأصلي.

جميع الأخبار