↓

Anuncio OpenRouter ·

Cómo reconstruimos el enrutamiento de proveedores para una inferencia mejor y más rápida

OpenRouter reconstruyó su enrutamiento para vigilar constantemente el rendimiento de cada endpoint de proveedor y equilibrar coste, velocidad y fiabilidad. Antes, la mayor parte del tráfico iba por defecto al proveedor más barato de un modelo.

Qué dice el artículo

El 28 de octubre de 2026, OpenRouter anunció un nuevo algoritmo de enrutamiento de proveedores por defecto, que presenta como su mayor mejora desde su fundación. El enrutador anterior clasificaba sobre todo según el precio de los tokens de entrada, de modo que el proveedor más barato recibía la mayor parte del tráfico.

El nuevo enrutador puntúa cada solicitud según el precio efectivo, el rendimiento, la fiabilidad, la disponibilidad y la calidad (en particular, que las llamadas a herramientas estén bien formadas). No requiere cambios en el código, las claves ni los identificadores de modelo. En una prueba de una semana con más de 24 millones de solicitudes, el tiempo mediano hasta el primer token bajó de 1.007 a 837 ms y las solicitudes con error 429 pasaron del 7,1 % al 3,8 %, pero el coste por millón de tokens subió un 7,3 %. Quien desee enrutamiento solo por precio puede usar provider.sort, el sufijo :floor o un ajuste de cuenta.

Leer el artículo oficial Ficha AnnuIA

Resumen redactado por AnnuIA con sus propias palabras a partir de la página oficial de OpenRouter. El contenido y los derechos pertenecen al editor: consulte el artículo original.

Últimas noticias de IA

Todas las noticias