← 概念解説に戻る

Concept Fable

例外処理

先に結論:異常処理 Exception Handling は、システムが正常に続行できない、入力異常、ツール失敗、権限不足、低信頼度、リスク上昇に遭遇したときの識別、分流、記録、復旧、エスカレーションの仕組みである。Agent システムにとって、異常処理は境界ケースに遭遇したとき、推測を続けるか、静かに失敗するか、安全に停止して制御可能なプロセスに入るかを決める。

Exception Handling · Operations

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

台所で誰も蓋を開けようとしない鍋

桂花巷に忙しい飯館がある。店主は手の速い料理人を雇った。彼は切り方が速く、盛り付けも正確で、常連が何を注文してもすぐに卓へ出せた。飯館の商売はますます良くなり、厨房も彼への依存を深めた。

この料理人は通常の注文を扱うのが最も得意だった。麺のネギ少なめ、料理の塩少なめ、二卓の客の催促。どれも難なくこなせた。しかしある日、コンロの鍋から突然異臭が立ち上った。鍋の中は見慣れない食材で、伝票も『いつも通りに』としか書かれていない曖昧なものだった。料理人は一瞬止まり、煮続けるべきか、捨てるべきか、それとも店主に聞くべきか分からなかった。

そばの店員が急かした、客が待っていると。料理人は仕方なく経験で調味料を加えた。料理が出た後、客は食材の一つにアレルギーがあると言った。食堂は大事には至らなかったが、全員が冷や汗をかいた。

店主は最初、一枚の告示を貼ろうとした:不確実な状況では注意せよ。老経理係は言った、この言葉は役に立たない。注意はプロセスではないからだ。料理人に本当に必要なのは:何が異常か、異常時にまずどのステップを止めるか、誰に通知するか、何を記録するか、どの状況は必ずやり直すか、どの状況は補救できるか、である。

そこで厨房は異常台帳を作った。料理が不明なら、まず提供を停止する。食材ラベルが欠けていれば、倉庫に回して検証する。客にアレルギー歴があれば、必ずホールに確認させる。火加減が異常なら、鍋ごと隔離する。配膳が二回連続で失敗したら、店主に判断を仰ぐ。各異常の後ろには、処理担当者、復旧方法、記録要件が書かれている。

新しい規則は料理人を遅くしなかった。逆に、通常の注文は速くなった。少数の変わった注文で迷わなくなったからだ。奇妙な味の鍋が現れても、彼は当てずっぽうに悩まない。まず隔離し、札を貼り、通知し、確認を待つ。

食堂はやがて気づいた。本当に危険なのはシステムが異常に遭遇することではなく、異常が起きたときにシステムがまだすべて正常であるかのように装うことだった。異常が見られ、振り分けられ、記録され、復旧されてこそ、厨房は安心して拡大を続けられた。

主人はその鍋を厨房の隅に残し、新しい店員にこう注意した。すべての鍋をその場で仕上げる必要はない。ある鍋は、正しい動作はまず出さないことだ。

明らかにする

この物語が語るのは:異常処理

異常処理 Exception Handling は、システムが正常に続行できない、入力異常、ツール失敗、権限不足、低信頼度、リスク上昇に遭遇したときの識別、分流、記録、復旧、エスカレーションの仕組みである。Agent システムにとって、異常処理は境界ケースに遭遇したとき、推測を続けるか、静かに失敗するか、安全に停止して制御可能なプロセスに入るかを決める。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 手早い料理人:タスクを自動実行するAgent
  • 通常注文:定型的、低リスク、経路が明確なタスク
  • 怪味鍋と曖昧な注文書:異常入力、未知の状態、または文脈不足
  • 経験に基づいて続行:Agent が不確実な状況で推測実行を続ける
  • アレルギーリスク:異常処理の失敗が実際の業務損害を引き起こす可能性
  • 異常冊:異常処理のフローとポリシー
  • 一時停止、隔離、通知、検証:異常処理における止血、分流、検証のステップ
  • 連続失敗は店主に判断させる:リトライ閾値とエスカレーション機構
  • まず出してはいけない:一部の異常に対する正しい処理は、完了まで進めることではなく、納品を停止し、人手または復旧プロセスへ切り替えることである

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

エスカレーションパスfallbackhuman reviewincident managementconfidence threshold
京ICP备2026014272号