← 概念解説に戻る

Concept Fable

残余リスク

先に結論:Residual Risk とは、制御、緩和、監視の措置を実施した後にもなお残るリスクを指す。企業の Agent ガバナンスでは、権限制限、承認フロー、ログ、評価、ガードレールがリスクを低減するが、リスクをゼロにはしない。残余リスクは識別され、定量化され、責任が割り当てられ、リスク登録簿に記載され、権限ある者によって受容、エスカレーション、またはさらなる緩和の要求がなされる必要がある。

Residual Risk · Risk Management

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

九つの閘門を封じた後、なお最後の一股の水に名を与えねばならない

灯台港はもともと、よく知られたやり方で運営されていた。港の点灯人は夜に灯をともし、昼に灯を直し、昔のリズムで事を運ぶうちはめったに失敗しなかった。船団も、どの水路を避けるべきかを知っていた。

その後、事態は大きくなった。霧の季節でも船団は通常どおり出航しなければならず、催促の声は早朝から夕方まで続いた。新人はこれを数量の問題だと思い、人を増やし時間を延ばせばよいと考えた。しかし古参は、多くの細部がすでに旧来の方法で耐えられる境界を越えているのを見ていた。

掌事人は最初の方法を試した。新しい灯に替えて海面はもう安全だと宣言した。最初の数日は確かに改善が見え、隊伍は短くなり、外部の人もこの職人技がついに新しい場面に追いついたと思った。

しかし厄介ごとはすぐに姿を変えた。進度を急ぐために検査を省く者、不適切な仕事を無理に古いプロセスに押し込む者、最も熟練した者がかえって雑事に足を取られた。誤りは常に表に見えるとは限らず、納品後に初めて現れることが多い。 古い帳簿は来歴を説明できても、次にどう直すべきかは説明できない。

主事人はさらに規則を加え、各人にもっと署名し、もっと報告し、保護の層をもう一枚補うよう求めた。紙の上では周到に見えたが、現場はさらに遅くなった。職人たちは自分に非がないことを証明するのに忙しく、本当の亀裂は依然として元の場所で広がっていた。傍観者には結果が良くなったり悪くなったりするようにしか見えず、現場の者は速度、品質、責任のどれを先に救うべきかますます判断しにくくなった。 誰もが自分は少し多くやったと思っていたが、全体としての物事はそれによってより安定することはなかった。

寡黙な老職人はいくつかの失敗を机の上に並べた。彼は誰も責めず、皆に同じ細部を見せた。新しい制限は日常の練習にまったく入らず、納品直前に突然現れるだけだった。彼は数回の手戻りを発生順に並べ、そこで皆は、誤りがいつも同じ曲がり角で拡大されることに気づいた。

そこで工房は新たな規則に改めた。残った暗礁を赤帳に描き込み、夜回り船に航路と報告時刻を指定する。当初は誰もが慣れず、手足を縛られたように感じたが、何度か繰り返すうちに、粗雑な近道は塞がれ、本当に確実な動きがゆっくりと残っていった。

同じ圧力に再び直面したとき、デリバリーは華やかにはならなかったが、明らかに信頼性が増した。港の司灯人はついに理解した。低減できる危険は消えたわけではなく、残った部分も誰かが認めなければならない。最後になって補救すれば、代償はすでに前の各選択に埋め込まれていることが多い。この新しい道はコストを消したわけではないが、コストを早く可視化し、まだ変更できるうちに処理できるようにした。

明らかにする

この物語が伝えるのは:残余リスク

Residual Risk とは、制御、緩和、監視の措置を実施した後にもなお残るリスクを指す。企業の Agent ガバナンスでは、権限制限、承認フロー、ログ、評価、ガードレールがリスクを低減するが、リスクをゼロにはしない。残余リスクは識別され、定量化され、責任が割り当てられ、リスク登録簿に記載され、権限ある者によって受容、エスカレーション、またはさらなる緩和の要求がなされる必要がある。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 潮のほとりの倉庫:企業における高リスクの業務環境
  • 運搬木偶:タスクを自動実行できる Agent
  • ゲートと二重署名:アクセス制御、承認、ログ、ガードレール
  • 旧排水溝の逆流:制御後もなお残る失敗経路
  • 二つのリスクマップ:固有リスクと残余リスクの区別
  • 扉の内側に貼り、定期的に更新する:継続的な監視とリスク登録簿
  • 残りの水路に名前を付ける:Residual Risk を明確に記録する

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

inherent riskリスク軽減risk acceptancecontrol effectiveness
京ICP备2026014272号