Inworld Inference のご紹介
Inworldは、Gemma 4 26Bなどのオープンモデルを最適化する、一般消費者向けAIアプリ用の推論API「Inference」を公開した。最初のトークンはOpenRouterの中央値プロバイダーよりp95で最大7.8倍高速、入力価格は最大48%安いとしている。
記事の内容
Inworldは2026年10月14日、コンパニオン、家庭教師、コーチングなどコンシューマー向けAIアプリ用のLLM推論APIであるInworld Inferenceを発表し、全開発者に開放しました。会話中の素早い応答、長いプロンプトと短い出力、1ターンでの多数の呼び出し、ユーザーあたりの低コスト、高い信頼性を想定しています。
オープンモデル（Gemma 4、GLM、DeepSeek、MiMo）の最適化ビルド、ドラフトモデルが提案したトークンを本体モデルが検証するリアルタイムデコーディング、KVキャッシュを考慮したルーティング、4つのサービス階層（Flex、Default、Priority、Fast）、フォールバックモデルへの自動切り替え、OpenAI互換API、専用デプロイを提供します。同社の測定では、Gemma 4 26Bの最初のトークンまでのp95は0.31秒で、OpenRouterの中央値プロバイダーの2.42秒を下回り、入力は100万トークンあたり0.07ドルです。
この要約は、Inworld AI の公式ページをもとに AnnuIA が自分の言葉で作成しました。内容および権利は発行元に帰属します。元の記事をご覧ください。