这张卡讲模型路由这个降本手段的工程纪律：路由也是要评测的。
核心拆解：模型路由按任务难度、延迟要求、成本预算或合规边界，把请求分发给不同模型，用小模型跑简单分支、大模型兜复杂场景。收益可观，前提是路由规则本身经过评测：路由错一次，简单分支被分给弱模型，错误悄无声息。最常见的误用是只按成本路由，忽略任务难度分布随时间漂移，路由规则半年不校准就成了静默劣化源。
增量判断：与降级回退的分工要分清：路由是常态分发，回退是故障兜底，两者共用模型清单但触发逻辑不同。国内私有化环境的模型清单受客户采购约束，路由设计空间比云上小，方案要先盘点可用模型。
行动建议：给你系统的路由规则补一组「分对了吗」的评测用例，把路由准确率变成可见数字。路由准确率进不了报表的优化工作，等于没做过。
—— FDEChina编辑部 · 实战派
定义
模型路由（Model Router）指按任务难度、延迟要求、成本预算或合规边界，把请求动态分发给不同模型的调度机制，典型策略是用轻量模型处理简单分支、把复杂场景留给更强也更贵的模型。
展开
路由是结构性降本手段：多数请求被便宜模型消化，只有少数高难请求触碰大模型，整体成本能下一个台阶。前提是路由规则本身过评测回归——路由错一次，该走强模型的请求被分给弱模型，输出质量静默下滑，客户先于你发现。设计上路由依据有四类：难度分类器、显式用户选择、任务类型映射、成本与延迟约束的加权决策，实践中常组合使用。与降级回退策略的辨析：路由是常态分发，追求分发效率；回退是故障兜底，追求可用性，两者共用模型清单但触发逻辑与评测口径不同，混在一个配置里改很容易互相牵连。私有化环境下模型清单受客户采购与部署形态约束，路由设计空间比云上小得多，方案阶段先盘点可用模型再谈策略。路由规则变更要像提示词一样走版本管理与回归，这是它最常被省略的一环。