我们如何重构提供商路由以实现更好更快的推理
OpenRouter 重构了路由，持续监控每个提供商端点的性能，以平衡成本、速度和可靠性。此前默认情况下，大部分流量会发往某个模型最便宜的提供商。
文章要点
2026年10月28日，OpenRouter宣布推出新的默认服务商路由算法，称其为自创立以来最大的改进。旧路由主要按输入token价格排序，因此最便宜的服务商获得大部分流量。
新路由按有效价格、吞吐量、可靠性、可用性和质量（尤其是工具调用格式是否正确）为每个请求打分，无需修改代码、密钥或模型ID。在一次覆盖超过2,400万个请求的为期一周的测试中，首个token的中位时间从1,007毫秒降至837毫秒，遇到429错误的请求比例从7.1%降至3.8%，但每百万token的成本上升了7.3%。想继续只按价格路由的用户，可以使用provider.sort、模型后缀:floor或账户设置。
本摘要由 AnnuIA 根据 OpenRouter 官方页面用自己的话撰写。内容及版权归发布方所有，请阅读原文。