← 返回概念解读

Concept Fable精修版

预算感知路由

Budget-Aware Routing · Cost optimization

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

驿站按银袋而不只按快马派路

王国驿站过去只有一条规矩:急信交给最快的马。早年信少,最快的马总够用,账房也不细算草料。只要信准时到,站长就觉得安排正确。

后来商会、军营和县衙都把信塞进驿站。每封信都被写成急件,最贵的快马日夜奔跑,月底账单高得没人敢看。真正紧急的军情,反而和普通请帖挤在同一条路上。

站长先要求所有信都走普通马。费用降了,可军情迟到,商会合同错过签字,省下的草料抵不过损失。他又按发信人身份派马,大商会总能拿快马,小村急病却排不上。

新账房给每封信贴三张签:价值、时限和可花银袋。军情贵且急,用快马;例行账单便宜且不急,走驮队;不确定的信先走中等路线,必要时再升级。

站长担心分流太复杂。账房拿出旧账:最快马的草料、误期赔偿、临时加派车夫,过去都被藏在月底总数里。复杂早就存在,只是没人把它放到每次派马前。

第一版分流也犯过错。有些信被低估,走慢了才发现损失大。账房于是增加回看:每条路的误期后果、实际花费和客户抱怨都记下来,下次贴签更准。预算不是死抠银子,而是把风险和代价一起看。

几个月后,最快的马只跑真正值得跑的路,普通马也有稳定安排。驿站没有牺牲所有质量,而是把质量、时限和银袋一起纳入调度。聪明派路不等于永远选最强资源。

后来每月结账,站长不再只看总草料。他会看哪些快马救回了大损失,哪些快马只是送了普通闲信,哪些慢路其实足够。驿站的调度越来越像一门生意:不是省每一文,而是把每一文花在值得的路上。若一封信的价值说不清,就先走中路并留下升级口,免得一开始就把银袋花空。

揭示

这个故事讲的是:预算感知路由

预算感知路由是在预算、任务价值、质量要求和延迟之间做选择:不同请求不必都交给最贵模型,也不必一味省钱。系统会根据场景选择模型、工具、检索深度或执行路径。

低价值、低风险请求可以走便宜模型或短流程;高风险、高价值任务可以升级到更强模型、更多验证或人工审批。它的目标是让质量、成本和毛利都可控。

隐喻映射

  • 驿站:企业 Agent 路由层
  • 快马、普通马、驮队:不同模型、工具或执行路径
  • 银袋:成本预算
  • 价值和时限签:任务重要性、质量要求和延迟约束
  • 必要时升级:fallback 或 escalation to stronger model
  • 月底账单:不可控 token 与模型调用成本

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

model routingcost control

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。