बेहतर और तेज़ इन्फ़रेंस के लिए हमने प्रोवाइडर रूटिंग कैसे दोबारा बनाई

लेख में क्या कहा गया है

28 अक्टूबर 2026 को OpenRouter ने प्रदाताओं के बीच रूटिंग का नया डिफ़ॉल्ट एल्गोरिद्म घोषित किया, जिसे वह स्थापना के बाद का सबसे बड़ा सुधार बताती है। पुराना राउटर मुख्यतः इनपुट टोकन की कीमत से प्रदाताओं को क्रम देता था, इसलिए सबसे सस्ते प्रदाता को ज़्यादातर ट्रैफ़िक मिलता था।

नया राउटर हर अनुरोध को प्रभावी कीमत, थ्रूपुट, विश्वसनीयता, उपलब्धता और गुणवत्ता (खासकर टूल कॉल के सही रूप) पर आँकता है। कोड, कुंजियों या मॉडल ID में बदलाव ज़रूरी नहीं। 2.4 करोड़ से अधिक अनुरोधों पर एक सप्ताह के परीक्षण में पहले टोकन का मध्यिका समय 1,007 से घटकर 837 ms हुआ और 429 त्रुटि वाले अनुरोध 7.1% से 3.8% रह गए, पर प्रति दस लाख टोकन लागत 7.3% बढ़ी। केवल कीमत पर रूटिंग चाहने वाले provider.sort, :floor प्रत्यय या खाता सेटिंग का उपयोग कर सकते हैं।

आधिकारिक लेख पढ़ें AnnuIA प्रोफ़ाइल

यह सारांश AnnuIA ने OpenRouter के आधिकारिक पृष्ठ के आधार पर अपने शब्दों में लिखा है। सामग्री और अधिकार प्रकाशक के हैं: कृपया मूल लेख पढ़ें।

सभी समाचार