← 概念解説に戻る

Concept Fable

モデルのロールバック

先に結論:Model fallback は、主モデルまたはベンダーが失敗、タイムアウト、予算超過、ポリシー違反したとき、リクエストを予備モデルまたはベンダーへルーティングする信頼性パターンである。事前にトリガー条件、予備モデルの能力、品質低下、コスト境界、データ権限、ユーザー影響、人手による引き継ぎを定義する必要がある。企業 Agent では、fallback により単一モデル障害でワークフロー全体が停止するのを避けられる。

Model Fallback · Reliability pattern

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

主橋が封鎖されたとき、隊商は雨の中に留まるべきではない

雨季には、商隊の川渡りはすべて北橋に頼っていた。北橋は広く、安定し、通行料は高いが、貨車を時間通りに城へ届けられた。店主はすべての路線をこの橋に賭け、最良の橋なら当然すべての通行を担うべきだと考えた。

ある夜、山洪が橋面を押し流し、明け方には三十台の貨車が雨の中で立ち往生した。車夫たちは橋の修理を待ち、薬材は濡れてしまい、生果は酸っぱくなり、顧客の宴席も時刻に遅れた。

店主が最初に行った補修は、橋匠に急いで直すよう人をやって催促することでした。橋匠がいくら速くても半日はかかります。隊商が本当に必要としていたのは催促ではなく、主路が使えないときでも前進し続けられることでした。

二度目、彼は御者に臨時に小さな渡し場を探させました。浅瀬を見つけた者もいましたが、重い車は渡れません。南橋へ回った者もいましたが、運賃が倍かかりました。はぐれた者もいて、貨物票はめちゃくちゃになりました。

老管事は事前に予備の道程表を描いた。北橋が正常なら北橋を通る。橋が封鎖され荷が軽ければ東の渡し場を通る。荷が貴重なら南橋に回り、顧客に時刻変更を通知する。両路とも断たれたら、まず最寄りの倉庫に入り荷を守る。

次の洪水が来たとき、車列は雨の中で止まりませんでした。異なる貨物は代替路で分流され、路費と遅延は記録され、顧客は新しい到着時間を事前に受け取りました。

店主は理解した。最も強く依存する一つの経路が信頼できるとは限らない。信頼は、主経路が失敗したときに、許容できる代替、明確な発動条件、そして結果に対する継続的な説明があることから生まれる。

後に店主は予備ルートも定期的に試走させた。異常がない時でも、空車を時折東渡しと南橋に通し、船頭、倉庫、通知方法が今も機能していることを確認した。予備ルートが帳簿に書かれているだけで一度も検証されなければ、いざという時に途絶える可能性がある。信頼性は平時の維持管理によって保たれるものであり、災害時に初めて思い出すものではない。 老管事は車夫にもこう注意した。予備は劣っているという意味ではなく、時に約束を守るためのものだと。主橋は最速、東渡しは安価、南橋は安定、倉庫は荷を守れる。異なる失敗には異なる退路が対応し、それによって商隊は単一障害点で崩壊せずに済む。 後に顧客はむしろ商隊をより信頼するようになった。悪天候の時でも次の一手を誰かが考えていると知っていたからだ。 この言葉は後に新人の手引きに書き込まれ、まず現場の代償を見てから省力化を語るよう皆に促した。 この注意喚起があったからこそ、後に似た難題に直面しても、皆は慌てて旧来の方法を当てはめようとはしなかった。 彼らはまずどの段階がリスクを負うのかを問い、それから手放すべきか、締めるべきか、フローを組み替えるべきかを決めることを学んだ。

明らかにする

この物語が語るのは:モデルフォールバック

Model fallback は、主モデルまたはベンダーが失敗、タイムアウト、予算超過、ポリシー違反したとき、リクエストを予備モデルまたはベンダーへルーティングする信頼性パターンである。事前にトリガー条件、予備モデルの能力、品質低下、コスト境界、データ権限、ユーザー影響、人手による引き継ぎを定義する必要がある。企業 Agent では、fallback により単一モデル障害でワークフロー全体が停止するのを避けられる。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 主橋:主力モデル、モデルベンダー、または優先推論経路
  • 古い渡し場と山道:予備モデル、予備ベンダー、ローカルモデル、または人手による処理
  • メイン橋の再発防止を求める:サプライヤーの約束だけに頼る安易なパッチ当て
  • 閉鎖、渋滞、予算超過の課金:エラー、タイムアウト、レート制限、コスト、ポリシー発動条件
  • 予備ルートを事前に明記:fallback policy と routing rules
  • 定期的に代替路を試し歩く:fallback drill と evals
  • 約束の段階的処理:SLA、優先度、グレースフル・デグラデーション
  • 最終的な洞察:モデルのロールバックは事前に設計された代替経路で事業継続性を守る

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

provider routingモデルゲートウェイfailoverLiteLLM信頼性SLA

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号