← 概念辨析に戻る

Concept Contrast Fable

署名して決断し、リスクを負い、対処後もなお残るリスクを引き受ける

先に結論:リスク受容は経営判断である——現在のリスク水準を受け入れ可能と認定し、これ以上管理策を追加せず、署名すれば結果を負う。残存リスクはリスク対応後に客観的に残るリスク量であり、誰が署名しようとそこに存在する。両者は同じプロセスの中で上流下流に隣接する。対応後に残存リスクが生じ、意思決定層が残存リスクに対して受容または追加措置の決定を下す。混同すると、署名する人がリスクを消滅させたと錯覚するが、リスクは実際にはまだ残っている。

リスク受容は経営判断である——現在のリスク水準を受け入れ可能と認定し、これ以上管理策を追加せず、署名すれば結果を負う。残存リスクはリスク対応後に客観的に残るリスク量であり、誰が署名しようとそこに存在する。両者は同じプロセスの中で上流下流に隣接する。対応後に残存リスクが生じ、意思決定層が残存リスクに対して受容または追加措置の決定を下す。混同すると、署名する人がリスクを消滅させたと錯覚するが、リスクは実際にはまだ残っている。

寓話

堤の水位計と水門の署名簿:数字は測って出すもので、署名で決まるものではない

河防衙門には、堤を守る者と水門官がいた。毎年、汛期になると、堤を守る者がまず第一の堤を築き、放水路を掘り、弱い箇所に土嚢を積んだ。それを終えると、水位尺を水門に当てて、水門官に数字を一つ報告した。水門前の水位は三尺七寸。水門官はその数字を見て警戒線の五尺を確認し、署名して承認した。五尺を超えなければ水門は開けない。この流れは三年間続き、各村の作物は守られた。

翌年の夏、雨が12日間降り続いた。水位は3尺7から4尺5まで上がった。堤の番人は慣例どおり測って報告し、閘官は慣例どおり署名した。まだ5尺に達していない、開門しない。2人はそれ以上何も言わなかった。3日目の夜、上流の古い堤が裂け、水が下流へ押し寄せ、閘口を越えて2つの村を浸した。事後の追及に、省から人が来た。

追査チームは、二人が同じ表を見ているのに別のものを理解していることに気づいた。堤防守の表には「残余リスク:四尺五」とはっきり書かれた行があり、その下に対処措置——堤防構築、洪水誘導、土嚢積み——が並んでいた。閘官が署名したページの見出しは「リスク受容」で、彼はこの署名がリスクがすでに解決したことを意味すると考えていた。堤防構築が水位を六尺から四尺五に下げただけで、ゼロにしたのではないことを彼は知らなかった。堤防守は閘官が残余リスクの数字を見て署名したと思い、閘官は署名すれば水位がゼロになると考えていた。

追査班は役所の壁にフローチャートを貼り直した。第一欄は初期リスク——放置すれば六尺に上がる。第二欄は処置措置——堤を築いて四尺五寸に抑える。第三欄は残余リスク——四尺五寸であり、ゼロではない。第四欄で初めてリスク受容に至る——閘官が四尺五寸を見た後の署名決定。署名が管理するのは第四欄の決定であり、リスク自体は第三欄の数字にのみ関わる。

役所は制度を改め、二重署名を求めた。堤防の守り手は処置証明に署名し、自分が何をしたか、処置後にどれだけのリスクが残るかを白紙黒字で明記する。水門官は受諾証明に署名し、残存リスクの数字を見て、どれだけ残っているかを把握し、結果を受け入れる意思を示す。二つの署名は同じ行にはなく、一方は処置の境界を、他方は意思決定の責任を画定する。

その後のある秋の増水で、水位は四尺八に達した。堤の守り人は「処理後の残り四尺八」と報告し、閘官は隣村の避難経路図と照合して署名し受け入れた。翌日、水位は四尺九に上がり、閘官は一時間早く閘を開け、水は村に入らなかった。振り返りで追跡班は結論欄に五文字を書いた:数字は数字、意思決定は意思決定。

老いた堤防守りは引退の際、弟子に一言残した:処置はリスクを下げられるが、リスクを消すことはできない。残存リスクを正直に報告することは、それを美しく仕上げるより十倍役に立つ。なぜなら水門番の手にはいくつかの村の人命がかかっているからだ。

リスク受容

経営層が現在のリスク水準について下す正式な決定——残余リスクが許容範囲内だと認定し、これ以上管理策を追加せず、起こりうる結果を引き受ける。これは管理行為であり、署名者、発効時期、受容条件がある。

残余リスク

計画されたすべての処置と管理措置を実施した後でも、客観的に存在するリスク水準。それは測定された数値であり、誰の署名によっても変わらず、リスク受容の意思決定の入力根拠であり、出力産物ではない。

物語の対応

  • 堤守が水位尺を測る:残余リスクを測る——処置後の客観的な残存
  • 閘官が署名して開門しないことを確認する:リスク受容——経営層による残余リスクに対する正式な意思決定
  • 二人は相手が言わなかった部分を理解したと思い込む:プロセス上流下流がそれぞれ暗黙に前提とする誤解
  • フロー図の四欄をはっきり分ける:残余リスクとリスク受容は別の段階に属し、その間に等号はない
  • 二重署名制度:処置証明は何をしたかを管理し、受領証明は見た後にどう決定したかを管理する
  • 秋の増水時も数字の報告が明確で、意思決定に根拠がある:正しいプロセスでは評価と署名がそれぞれ責任を負う

AIシステムのリスク評価プロセスに落とし込む

AIシステムのリスク評価を行う際は、まず技術チームに残余リスクを報告させる——コンテンツフィルタリング、権限制御、訓練データのクレンジングを終えた後にどれだけのリスクエクスポージャーが残るか。次に意思決定層にリスク受容を行わせる——レポートを見て、業務上の耐性を判断し、署名して引き受ける。重要な規律は二つ:処置措置がリスクをゼロに下げることは永遠に不可能であり、数字を美しく見せるよりも残余リスクをありのまま報告する方が重要である。署名者は、署名が管理するのは受容行為であり、残余リスクの実際の数値を変えるものではないことを理解する必要がある。残余リスクレポートとリスク受容記録を二つの独立した文書に分ければ、監査パスははるかに明確になる。

京ICP备2026014272号