Представляем Inworld Inference
Inworld запускает Inference — API инференса для потребительских ИИ-приложений, оптимизирующий открытые модели вроде Gemma 4 26B. Компания заявляет, что первый токен до 7,8 раза быстрее (p95), чем у медианного провайдера OpenRouter, а цены на вход до 48 % ниже.
О чём статья
14 октября 2026 года Inworld объявила об Inworld Inference — API инференса LLM для потребительских ИИ-приложений (компаньоны, репетиторы, коучинг), открытом для всех разработчиков. Она рассчитана на конкретные задачи: быстрые ответы в диалоге, длинные запросы с короткими ответами, множество вызовов за ход, низкая стоимость на пользователя и высокая надёжность.
Предлагаются оптимизированные сборки открытых моделей (Gemma 4, GLM, DeepSeek, MiMo), декодирование в реальном времени, когда черновая модель предлагает токены, а полная проверяет их, маршрутизация с учётом KV-кэша, четыре уровня обслуживания (Flex, Default, Priority, Fast), автоматическое переключение на резервные модели, API, совместимый с OpenAI, и выделенные развёртывания. По собственным измерениям компании, у Gemma 4 26B p95 времени до первого токена составляет 0,31 с против 2,42 с у медианного провайдера OpenRouter, при цене 0,07 доллара за миллион входных токенов.
Читать официальную статью Карточка AnnuIA
Краткое изложение написано AnnuIA своими словами по официальной странице Inworld AI. Содержание и права принадлежат издателю: читайте оригинальную статью.