Présentation d’Inworld Inference
Inworld lance Inference, une API d’inférence pour applications d’IA grand public qui optimise des modèles ouverts comme Gemma 4 26B. Elle annonce un premier jeton jusqu’à 7,8 fois plus rapide (p95) que le fournisseur médian d’OpenRouter et des prix d’entrée jusqu’à 48 % plus bas.
Ce que dit l'article
Le 14 octobre 2026, Inworld a annoncé Inworld Inference, une API d'inférence de LLM pour les applications d'IA grand public (compagnons, tuteurs, coaching), ouverte à tous les développeurs. Elle répond à des besoins précis : réponses rapides en conversation, longs prompts pour sorties courtes, nombreux appels par tour, faible coût par utilisateur et forte fiabilité.
Elle propose des builds optimisés de modèles ouverts (Gemma 4, GLM, DeepSeek, MiMo), un décodage en temps réel où un modèle brouillon propose des jetons que le modèle complet vérifie, un routage tenant compte du cache KV, quatre niveaux de service (Flex, Default, Priority, Fast), un basculement automatique vers des modèles de secours, une API compatible OpenAI et des déploiements dédiés. D'après les mesures de l'entreprise, Gemma 4 26B affiche un p95 de premier jeton de 0,31 s contre 2,42 s pour le fournisseur médian d'OpenRouter, pour 0,07 $ par million de jetons en entrée.
Lire l'article officiel Fiche AnnuIA
Résumé rédigé par AnnuIA avec ses propres mots, d'après la page officielle de Inworld AI. Le contenu et les droits appartiennent à l'éditeur : consultez l'article d'origine.