كيف يمكن لتخصيص مفردات النماذج اللغوية الصغيرة خفض تكلفة الاستدلال بنسبة 77% في التطبيقات الواقعية
تعيد VocabX من Dharma-AI بناء مفردات نموذج صغير بوزن تكلفة توليد كل رمز بدل تكراره، وتجمع الرموز الجزئية والرموز «الماكرو». وفي مصحّح مقالات بالبرتغالية على Qwen3-4B انخفضت تكلفة الاستدلال 77% وارتفعت الدرجة من 0.703 إلى 0.810 (نتائج أولية).
ما يقوله المقال
في 21 أكتوبر 2026 نشرت Dharma-AI على Hugging Face معاينة لنتائج ورقتها القادمة VocabX التي ما تزال قيد المراجعة وقد تتغير. يخصّص VocabX مفردات المُجزِّئ في نموذج لغوي بحسب تكلفة كل رمز لا تكراره؛ وقد خفّض في الإنتاج تكلفة الاستدلال المقاسة بنسبة 77% دون تغيير النموذج الأساسي.
الحالة هي مصحّح آلي لمقالات باللغة البرتغالية مبني على Qwen3-4B، وكان يحتفظ بالمُجزِّئ العام. بعد التخصيص انخفضت المفردات من 151,669 إلى 64,767 مدخلًا، ومتوسط طول الإجابة من 350 إلى 101 رمز، وارتفعت درجة الاختبار من 0.703 إلى 0.810. وعبر خمسة مجالات عامة وثلاث عائلات نماذج، ضغط VocabX أكثر من أقوى طريقة مرجعية في جميع التركيبات الخمس عشرة. وتُرجأ الطرق الكاملة إلى الورقة القادمة.
اقرأ المقال الرسمي بطاقة AnnuIA
ملخص كتبته AnnuIA بكلماتها الخاصة اعتمادًا على الصفحة الرسمية لـ Hugging Face. المحتوى والحقوق تعود إلى الناشر، يُرجى قراءة المقال الأصلي.