Apresentando o Inworld Inference
A Inworld lança o Inference, uma API de inferência para apps de IA de consumo que otimiza modelos abertos como o Gemma 4 26B. Afirma ter primeiro token até 7,8 vezes mais rápido (p95) que o provedor mediano do OpenRouter e preços de entrada até 48% menores.
O que diz o artigo
A 14 de outubro de 2026, a Inworld anunciou o Inworld Inference, uma API de inferência de LLM para aplicações de IA de consumo (companheiros, tutores, coaching), aberta a todos os programadores. Responde a necessidades concretas: respostas rápidas na conversa, prompts longos com saídas curtas, muitas chamadas por turno, baixo custo por utilizador e elevada fiabilidade.
Oferece versões otimizadas de modelos abertos (Gemma 4, GLM, DeepSeek, MiMo), descodificação em tempo real em que um modelo rascunho propõe tokens que o modelo completo verifica, encaminhamento sensível à cache KV, quatro níveis de serviço (Flex, Default, Priority, Fast), comutação automática para modelos de reserva, uma API compatível com a OpenAI e implementações dedicadas. Segundo as medições da empresa, o Gemma 4 26B regista um p95 de primeiro token de 0,31 s contra 2,42 s do fornecedor mediano da OpenRouter, a 0,07 $ por milhão de tokens de entrada.
Ler o artigo oficial Ficha AnnuIA
Resumo escrito pela AnnuIA com suas próprias palavras, com base na página oficial de Inworld AI. O conteúdo e os direitos pertencem ao editor: consulte o artigo original.