← 概念辨析に戻る

Concept Contrast Fable

モデルルーティングとAgentルーティング、一方は問題を適切なモデルに送り、もう一方はタスクを適切な役割に割り当てる

先に結論:モデルルーティングは推論層で一つのリクエストがどのモデルを通るかを決める——コスト、速度、能力で選ぶ。Agent ルーティングはタスク層で一つの意図をどの Agent に割り当てるかを決める——領域の責務と権限で選ぶ。どちらもルーティングと呼ばれるが、一方は推論エンジン内部でトラフィックを分配し、もう一方は業務オーケストレーション層で役割を割り当てる。

モデルルーティングは推論層で一つのリクエストがどのモデルを通るかを決める——コスト、速度、能力で選ぶ。Agent ルーティングはタスク層で一つの意図をどの Agent に割り当てるかを決める——領域の責務と権限で選ぶ。どちらもルーティングと呼ばれるが、一方は推論エンジン内部でトラフィックを分配し、もう一方は業務オーケストレーション層で役割を割り当てる。

寓話

官署には二種類の分件員がいる。封筒を見る者と、案件を見る者だ。

戸部は毎日四方から文書を受け取る。税契、赈糧、辺関の軍需、商旅の通牒。最初はすべての文書が同じ写し部屋に送られ、同じ書吏の一団が清書した。短信ならまだしも、帳目、律例、地形図が混ざると、写し部屋は字を正しく写しても、事を誤って処理した。

尚書はまず写本の経路を変えた。字が乱雑なものは草書を識る吏に、算籌が多いものは帳吏に、外邦の文書は訳吏に送った。この段階で各文書はより読みやすくなったが、誰が倉を査し、誰が書簡を発し、誰が伺いを立てるかは決まらなかった。

ある災害救援の急件は訳吏が非常に正確に書き写したが、誰も食糧を派遣しなかった。別の税契は帳吏に届いて銀両を計算し終えたが、巡検に地境を確認させるのを忘れた。尚書はこれでようやく理解した。どの文書を読める人を選ぶかは、読む問題を解決するだけで、事務の帰属は解決しない。

後に戸部は分司牌を別に設けた。文書はまず難所に応じて抄房を選び、清書した後に事務に応じて糧司、税司、駅司、または刑名房に渡す。各分司には独自の権限、期限、受領証がある。

尚書は当初、二つの業務をどちらも抄房に任せていた。抄房はすぐに負担に耐えられなくなった。草書を読める吏が救済食糧の優先順を決め始め、帳簿吏が刑名房の代わりに書簡を出し始め、翻訳吏は外国語が分かるという理由で商人の応対を求められた。文書はより速く読まれたが、責任はますます曖昧に分かれた。

ある辺境の軍需は糧草、駅馬、軍械に関わり、写し房はどのページが読みにくいかしか判断できず、どの司が連携すべきか、誰が倉を開く権限を持つか、誰が報告する責任を負うかを決められない。尚書はそこで「読み解く」と「役務を割り当てる」を分けて掲げ、前者は資料の難易度で人を選び、後者は事務の職責で役割を割り当てた。

その後、新しい書吏が役所に入ると、尚書はまず二つの札を見せた。材料が難しければ、読める者に送る。案件が重ければ、責任を負える者に割り当てる。もし一つの札しか作らなければ、役所はいずれ賢い読者を権限ある役人と誤認するだろう。

それ以来、役所には二つの割り振りができた。一つは『この材料は誰が読むべきか』を問い、一つは『この仕事は誰が行うべきか』を問う。二つが混ざれば、字はますます清書されるが、事はかえってますます遅れる。

モデルルーティング

推論段階でリクエストの特徴(複雑さ、領域、予算)に応じて、最も適したモデルへ動的に振り分けます。関心は遅延、コスト、スループット、モデル能力の適合にあります。推論エンジン内部の意思決定に属します。

Agentルーティング

タスク編成層でユーザーの意図に基づき、最も適した Agent やロールへ作業を割り当てる。関心はタスク分解、領域マッチング、権限制御、完了品質にある。業務編成層の意思決定に属する。

物語の対応

  • 最下層レプリカ優先:モデルルーティング——純粋に技術的な選択で、案件内容は見ない
  • 中間層の老書吏が仕分けする:意図分類——業務内容ごとに異なる領域へ振り分ける
  • 最上位の副堂官が参加役割を定める:Agentルーティング——具体的なAgentと権限を割り当てる
  • 三層とも「分配」と呼ばれるが管理する事柄は異なる:同名異層のシステム設計問題
  • 監察官が問い詰める:命名による区別が各層の最適化方向を明確にする
  • 部門横断の連署事例:Agent ルーティングが必要とする特性——タスク分解と権限管理
  • 2つの独立した設定ファイルと監視ダッシュボード:正しいエンジニアリングアーキテクチャ

Agent システムアーキテクチャ設計に落とし込む

マルチ Agent システムを構築するとき、アーキテクチャ図上でモデルルーティングと Agent ルーティングを二つの異なる層に描く。モデルルーティングは推論ゲートウェイ層に置き、設定項目はモデル一覧、遅延しきい値、コスト予算、fallback 戦略である。Agent ルーティングはオーケストレーション層に置き、設定項目は Agent スキルレジストリ、領域マッチング規則、連署戦略、権限マトリクスである。デバッグ時に、正しい Agent にリクエストが渡ったのに返答品質が悪い場合は Agent ルーティング設定を確認し、Agent の推論速度が遅い、またはコストが異常な場合はモデルルーティング設定とモデル割り当て戦略を確認する。二つのルーティングは「ルーティング」という言葉を共有するが、それぞれの設定ファイルと監視次元は分けて維持する。

京ICP备2026014272号