← 概念解説に戻る

Concept Fable

予算認識ルーティング

先に結論:予算認識ルーティングは、予算、タスクの価値、品質要件、遅延の間で選択する。すべてのリクエストを最も高いモデルに渡す必要も、ただ安さだけを追う必要もない。システムは場面に応じてモデル、ツール、検索の深さ、実行経路を選ぶ。

Budget-Aware Routing · Cost optimization

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

駅は速い馬だけでなく銀袋に応じて道を割り当てる

王国の駅にはかつて一つの規則しかなかった。急ぎの手紙は最も速い馬に託す。初期は手紙が少なく、最も速い馬で常に足りていたため、会計係も飼料を細かく計算しなかった。手紙が時間通りに届きさえすれば、駅長は手配が正しいと感じていた。

その後、商会、軍営、県衙はすべて手紙を駅伝所に詰め込んだ。どの手紙も急件とされ、最も高い早馬が昼夜を問わず走り、月末の請求額は誰も見る勇気がないほど高くなった。本当に緊急の軍情は、かえって普通の招待状と同じ道に押し込まれた。

駅長はまず、すべての手紙を普通の馬で運ばせた。費用は下がったが、軍情は遅れ、商会の契約は署名の機会を逃し、節約した飼料では損失に釣り合わなかった。彼はまた差出人の身分で馬を割り当て、大商会はいつも速い馬を得られたが、小さな村の急病は順番が回らなかった。

新しい帳方は各手紙に三つの札を貼った:価値、期限、使える銀袋。軍情は高価で急ぎなので早馬を使い、定例の請求書は安く急ぎでないので駄隊に回し、不確かな手紙はまず中程度の経路で送り、必要なら格上げする。

駅長は振り分けが複雑すぎるのではと心配した。経理係は古い帳簿を出した:最速馬の飼料、遅延賠償、臨時追加の御者代は、これまで月末の合計に隠れていた。複雑さはすでに存在しており、ただ誰もそれを毎回の馬派遣の前に置いていなかった。

最初の版の振り分けも間違えた。過小評価された手紙もあり、遅れてから損失が大きいと分かった。そこで帳場は見直しを追加した。各経路の遅延の結果、実際の費用、顧客の苦情を記録し、次回のラベル貼りをより正確にした。予算は銀を削ることではなく、リスクと代償を一緒に見ることだった。

数か月後、最も速い馬は本当に走る価値のある道だけを走り、普通の馬にも安定した割り当てが与えられた。駅伝はすべての品質を犠牲にしたのではなく、品質、期限、銀袋を一緒にスケジューリングに組み込んだ。賢い配車は常に最強のリソースを選ぶことではない。

その後、毎月の決算で、駅長は総飼料だけを見なくなった。どの快速馬が大きな損失を救ったか、どの快速馬が普通の雑信を届けただけか、どの遅い道で実は十分だったかを見る。駅の配車はますます商売のようになった。一文を節約するのではなく、価値ある道に一文を費やすのだ。一通の手紙の価値が説明できなければ、まず中路を走らせて昇格口を残し、最初から銀袋を空にしないようにする。

明らかにする

この物語が語っているのは:予算を意識したルーティング

予算認識ルーティングは、予算、タスクの価値、品質要件、遅延の間で選択する。すべてのリクエストを最も高いモデルに渡す必要も、ただ安さだけを追う必要もない。システムは場面に応じてモデル、ツール、検索の深さ、実行経路を選ぶ。

低価値・低リスクのリクエストは安価なモデルや短いフローで処理できる。高リスク・高価値のタスクは、より強力なモデル、より多くの検証、または人手承認にエスカレーションできる。その目標は、品質、コスト、粗利をすべて制御可能にすることである。

メタファーのマッピング

  • 駅伝:企業 Agent ルーティング層
  • 速馬、普通馬、駄隊:異なるモデル、ツール、実行経路
  • 銀袋:コスト予算
  • 価値と期限の契約:タスクの重要性、品質要件、遅延制約
  • 必要に応じてエスカレーション:fallback または escalation to stronger model
  • 月末の請求書:制御不能な token とモデル呼び出しコスト

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

モデルルーティングコスト管理

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号