← 概念辨析に戻る

Concept Contrast Fable

事が起きた後と起きる前

先に結論:incident はすでに発生した事故を管理し、risk management は事故発生前の識別、軽減、準備を管理する。一つは対応と振り返りを見て、一つは予防と制御を見る。ベンダーが「管理がある」と言うなら、それがどの段階を管理するのかを明確に問う必要がある。

incident はすでに発生した事故を管理し、risk management は事故発生前の識別、軽減、準備を管理する。一つは対応と振り返りを見て、一つは予防と制御を見る。ベンダーが「管理がある」と言うなら、それがどの段階を管理するのかを明確に問う必要がある。

寓話

消火隊と巡線人

柳川鎮には消防隊があり、銅鈴が鳴ると隊員は水車を押して飛び出した。彼らは梯子を登り、扉を破り、人を救い、動作は速く安定していた。鎮民は彼らをとても敬い、祝日には酒や肉を贈った。火が出るたびに、この者たちが家を灰燼の縁から引き戻してくれたからだ。

町には他に数人の巡線人がいて、普段は灯とペンチを持ち、路地で電線、油灯、薪小屋、穀倉を点検していた。彼らはよく店の扉を叩き、この線は古すぎる、あの干し草は竈に近すぎると言った。店主たちは彼らに会いたがらず、欠点を探すだけで商売の邪魔になると感じていた。

ある年の冬、南街の米舗で火事があった。消防隊はすぐに来て、半条街は守られたが、米舗は一棟の倉を焼いた。隊長は胸を張って、訓練が行き届いていたおかげだと言った。しかし巡線人は半月前の記録を引っ張り出した。米舗の裏壁の線はすでに黒ずみ、柴草が壁際に積まれていたが、当時店主は線の交換が高いと嫌がって直さなかった。

隊長はそれを聞いて不機嫌になった。火はすでに消えたのに、昔の話をしても意味がないと思った。巡線人も怒った。自分は早くから警告していたのに、誰も相手にしなかったと思った。鎮長は最初、消火隊の側に立った。消火は目に見えるが、巡線は余計な出費に見え、帳簿にはいつも起きなかった悪事が書かれていたからだ。

後に北街でまた危ういことが起きかけた。巡線の者は酒楼の屋根裏に古い油布が積まれているのを見つけ、店主にその日のうちに片付けさせ、店員に水缸を裏口へ移させ、路地の口を塞いでいた木箱をどかせ、さらに夜灯を一盏残させた。三日後、隣の厨房から出火し、火の手は屋根裏口まで達したが、燃える油布は見つからず、すぐに消し止められた。町民はようやく、功績の中には銅鈴の音のように賑やかにならないものもあると理解し始めた。

鎮長はそこで二冊を分けた。赤冊子は火災発生後に誰が通報し、誰が対応し、損失がどれほどで、どう振り返ったかを記録する。灰冊子は平時どんな潜在的な問題を見つけ、どれを直し、どれがまだ遅れており、もし本当に出火したらどう減損するかを記録し、次回の巡検の担当者も記す。

それ以来、消防隊は依然として訓練し、巡線人も引き続き戸を叩いた。町はもう消火速度で街の安全を証明せず、巡線記録で事故対応を代替しなかった。火が出たら消す人が必要であり、火が出る前にも燃えやすいものを遠ざけ、逃げ道を空ける人が必要だ。

AI incident

AIシステムがすでに損害・損失・違反・重大な偏りを引き起こした、あるいは引き起こしかけた後のインシデント。重点は対応、記録、是正、振り返りにある。

AI risk management

事故が起きる前にリスクを識別し、影響を評価し、統制措置を設け、発生確率と影響範囲を継続的に低減する。

物語の対応

  • 消防隊 → AIインシデント対応メカニズム
  • 銅鈴、水車、救援 → 事故発生後の処置フロー
  • 巡線人 → AIリスクマネジメントの予防業務
  • 黒ずんだ電線と古い油布 → まだ爆発していないが識別可能なリスク
  • 赤い冊子 → 事故記録、対応、振り返り
  • 灰色の冊子 → リスク識別、統制措置、未クローズの潜在的な問題
  • 消火の速さは街の安全を証明しない → インシデント管理があるからといってリスクが管理できているわけではない

サプライヤー審査に落とし込む

ベンダーが AI incident 管理を提供すると言うなら、事故をどう発見し、エスカレーションし、損害を止め、顧客に通知し、振り返るかを見る。ベンダーが AI risk management を提供すると言うなら、リリース前にどうリスクを特定し、統制を設け、レッドチームテストを行い、残存リスクを監視するかを見る。一方は事後対応寄り、一方は事前に確率と影響を下げることに寄る。成熟したチームは通常、両方を備えている。

京ICP备2026014272号