Inworld Inference का परिचय
Inworld ने उपभोक्ता AI ऐप्स के लिए Inference API जारी की है, जो Gemma 4 26B जैसे ओपन मॉडल को ऑप्टिमाइज़ करती है। कंपनी का दावा है कि पहला टोकन OpenRouter के मध्यम प्रदाता से p95 पर 7.8 गुना तक तेज़ है और इनपुट कीमतें 48% तक कम हैं।
लेख में क्या कहा गया है
Inworld ने 14 अक्टूबर 2026 को Inworld Inference की घोषणा की, जो साथी, ट्यूटर और कोचिंग जैसे उपभोक्ता AI ऐप्स के लिए LLM इन्फ़रेंस API है और सभी डेवलपर्स के लिए खुली है। यह विशिष्ट ज़रूरतों के लिए है: बातचीत में तेज़ जवाब, लंबे प्रॉम्प्ट के साथ छोटे आउटपुट, हर टर्न में कई कॉल, प्रति उपयोगकर्ता कम लागत और उच्च विश्वसनीयता।
इसमें ओपन मॉडल (Gemma 4, GLM, DeepSeek, MiMo) के अनुकूलित बिल्ड, रीयलटाइम डिकोडिंग जिसमें ड्राफ़्ट मॉडल टोकन सुझाता है और पूरा मॉडल जाँचता है, KV-जागरूक रूटिंग, चार सेवा स्तर (Flex, Default, Priority, Fast), बैकअप मॉडल पर स्वचालित फ़ेलओवर, OpenAI-संगत API और समर्पित डिप्लॉयमेंट शामिल हैं। कंपनी के अपने माप के अनुसार Gemma 4 26B का पहला टोकन p95 समय 0.31 सेकंड है, जबकि OpenRouter के मध्यक प्रदाता का 2.42 सेकंड, और इनपुट कीमत 0.07 डॉलर प्रति दस लाख टोकन है।
आधिकारिक लेख पढ़ें AnnuIA प्रोफ़ाइल
यह सारांश AnnuIA ने Inworld AI के आधिकारिक पृष्ठ के आधार पर अपने शब्दों में लिखा है। सामग्री और अधिकार प्रकाशक के हैं: कृपया मूल लेख पढ़ें।