SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

看花费分路和全维度分路

预算感知路由是模型路由的一种特殊形式,只按成本约束选择模型。模型路由可以按质量、延迟、吞吐量、预算等多种维度做决策。把预算路由当成模型路由的全部能力,会漏掉质量、安全性和延迟等重要维度。

寓言

调度中心有两个派单员,一个只认钱,一个什么都要看

物流调度中心新来了两个派单员。老赵只看货主给的单趟运费——哪个车队报价低就派给哪个。老钱不一样,他桌上有五张表:运费、车队准点率、货物破损率、司机评分和车型匹配度。他把这些指标揉在一起算,再决定派给谁。

头三个月,老赵每单成本比老钱低两成。经理当众表扬,说控制成本是第一要务。老钱没说话,继续按五张表派单。第四个月,货物破损率开始往上跳——低价车队翻了两辆货车,碎了三箱货,货主投诉到了总公司。经理让老赵解释。老赵说表格上只有运费一栏,破损不归他管。

第五个月,老钱收到了总公司的通报。他负责的线路虽然成本高了一成,但货主续约率高出三成——准点率高、破损率低、司机态度好,货主愿意长期合作。经理看了数据后把两套标准摆在一起:老赵的决策链路是单维度的,只看运费;老钱的决策链路是多维度的,运费只是其中一个权重。

经理把两套标准的关系画了出来。预算路由是老赵的路子——在一个固定预算内选最好的模型,不受其他维度影响。模型路由是老钱的路子——可以按任何维度组合做决策,预算只是其中一个可选约束。老赵的方法放在老钱体系里只占一条决策线。

到了旺季,调度中心每天要处理两千单。经理发现老赵犯错有一种固定模式:他对超长距离运输也只用运费决策——选了低价车,结果路上抛锚两次,迟到三天。超长距离的决策维度应该包括车辆可靠性、驾驶员经验和途中的维修站点,不是只比运价。

调度中心后来把老赵的方法放进了老钱的体系里,给老钱的五张表加了一列叫预算约束。当某些线路只需要最低成本时,老钱勾上预算约束,系统自动按老赵的路子派单。当线路有特殊要求时,预算约束不勾,系统按全维度决策。老赵的方法变成了老钱能力的一个子集。

墙上的新流程图写着:预算路由是模型路由的一种模式,不是两种并列的产品。选模式之前先判断,这个请求是要最便宜的结果,还是需要综合考虑质量和可靠性。

预算感知路由

模型路由的一种特殊模式,只按成本约束选择模型。目标是给定预算内选择质量最优的模型,不考虑成本以外的维度。

模型路由

按多种维度——质量、延迟、吞吐量、成本、安全性等——将请求分发到最合适的模型。预算是其中一个可选约束。

故事对应

  • 老赵只看运费:预算感知路由,单一成本维度决策
  • 老钱看五张表:模型路由,多维度综合决策
  • 税前三个月成本更低:单维度路由短期看指标漂亮
  • 破损率上升货主投诉:缺乏其他维度导致长期质量滑坡
  • 超长运输只比价:单一维度的路由在复杂场景中容易出错
  • 预算约束变成老钱表里一列:预算路由是模型路由的一个子集

落到路由策略设计

统一的调用入口先做模型路由,再按场景决定是否开启预算约束模式。请求对成本敏感且对质量要求不高时,开启预算感知模式;请求涉及安全、合规或高价值业务时,用全维度路由。不要让预算路由成为唯一的决策逻辑——它适用于成本优先的旁路,不适用于需要综合质量的干线。