Wie wir das Provider-Routing für bessere, schnellere Inferenz neu gebaut haben
OpenRouter hat sein Routing neu aufgebaut und überwacht nun laufend die Leistung jedes Provider-Endpunkts, um Kosten, Geschwindigkeit und Zuverlässigkeit auszubalancieren. Zuvor ging der Großteil des Traffics standardmäßig an den günstigsten Anbieter eines Modells.
Worum es im Artikel geht
Am 28. Oktober 2026 kündigte OpenRouter einen neuen Standardalgorithmus für das Provider-Routing an und nennt ihn die größte Verbesserung seit der Gründung. Der alte Router sortierte Anbieter vor allem nach dem Preis der Eingabe-Token, sodass der günstigste den größten Teil des Traffics bekam.
Der neue Router bewertet jede Anfrage nach effektivem Preis, Durchsatz, Zuverlässigkeit, Verfügbarkeit und Qualität (insbesondere korrekt aufgebaute Tool-Aufrufe). Änderungen an Code, Schlüsseln oder Modell-IDs sind nicht nötig. In einem einwöchigen Test mit über 24 Millionen Anfragen sank die mediane Zeit bis zum ersten Token von 1.007 auf 837 ms, und der Anteil von Anfragen mit 429-Fehler fiel von 7,1 % auf 3,8 %; die Kosten pro Million Token stiegen aber um 7,3 %. Wer reines Preis-Routing will, kann provider.sort, das Suffix :floor oder eine Kontoeinstellung nutzen.
Offiziellen Artikel lesen AnnuIA-Profil
Zusammenfassung von AnnuIA in eigenen Worten nach der offiziellen Seite von OpenRouter. Inhalt und Rechte liegen beim Herausgeber: bitte den Originalartikel lesen.