← 概念解説に戻る

Concept Fable

セキュリティインシデント対応

先に結論:セキュリティインシデント対応とは、プロンプトインジェクション、データ漏えい、認証情報の露出、不正なツール使用、有害な出力、侵害された依存関係などの疑いまたは確認されたセキュリティ事象に対する構造化された対応である。Agent システムでは、封じ込め、認証情報のローテーション、証拠保全、影響分析、法務および顧客への連絡、根本原因の是正、インシデント後の管理改善が必要となる。

Security Incident Response · ガバナンス

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

偽の鍵が本物の倉庫を開けたとき

城中の票号が夜、裏窓がこじ開けられ、銀票が数枚消えているのを発見した。番頭の第一反応は、評判を損ねまいと黙って店を閉めることだった。しかし護衛は、賊が鍵の型も持ち去った可能性があると気づく。対処しなければ、明晩はさらに大きな損害になる。銀票が数枚消えただけなら、番頭はまだ運が良かったかもしれない。だが鍵の型が流出した可能性は、今夜の穴が明晩にはもっと大きな門になることを意味していた。

彼らはまず混乱を起こした。店員はあちこちの戸棚をひっくり返し、足跡を壊した;帳場は慌てて帳簿を直し、かえってどの票が影響を受けたか分からなくなった;門番は人を追って街まで出て、誰も留守を守らなかった。最初の混乱は顧客をさらに慌てさせた。ある者が票号が閉店したと聞き、すぐに門口に押し寄せて換金しようとし、本来なら制御可能だった損失が取り付け騒ぎになりかけた。

新しい安全官が引き継ぐと、事をいくつかの段階に分けた。まず裏窓と鍵を封じ、関連する手形の兌換を一時停止する。次に現場を保護し、誰が発見し、いつ発見し、どの櫃が触られたかを記録する。その後、手形番号と顧客名簿を照合し、影響範囲を確認する。

影響を受ける可能性のある顧客に対し、票番は約束通りに告知を発する:どの票を交換する必要があるか、どう再発行するか、いつ払い戻しを再開するか。内部では、なぜ鍵が模造できたのか、夜回りはなぜ点を漏らしたのか、裏窓にはなぜ暗鈴がなかったのかを追及する。告知も一斉に叫ぶのではない。どの顧客が実際に影響を受け、どの票を凍結する必要があり、どのメッセージが賊を助けるかを、まず区別しなければならない。

数日後、票号は営業を再開したが、この件を一度きりの不運とは見なさなかった。彼らは夜間巡回の記録を更新し、証票紛失の手順を訓練し、高額証票には二重署名を加え、異常を発見したらまず封鎖してから棚卸しするよう定めた。

新しい安全官は事後の振り返りで、賊は誰かとだけ問わなかった。彼女は発見、封じ込め、棚卸し、告知、復旧、改善を項目ごとに確認し、どのステップが遅く、どのステップが乱れていたかを見つけた。次回は、プロセスが今回より早く目覚めなければならない。

票号は後に毎季、失票の訓練を一度行った。訓練ではある者が顧客役、ある者が役人役、ある者が故意に誤った情報を伝えた。新入りは訓練で順序を学んだ:まず止血、次に調査、次に告知、次に回復。事に臨んで慌てないのは、事前に道を熟知しているからだ。

番頭はついに認めた。インシデント対応とは、不祥事を隠すことでも、ただ賊を捕まえることでもない。重要なのは、損害が拡大する前に証拠、権限、顧客、業務を安定させ、教訓を次回より速い行動に変えることだ。

明らかにする

この物語が語るのは:安全事故対応

セキュリティインシデント対応とは、プロンプトインジェクション、データ漏えい、認証情報の露出、不正なツール使用、有害な出力、侵害された依存関係などの疑いまたは確認されたセキュリティ事象に対する構造化された対応である。Agent システムでは、封じ込め、認証情報のローテーション、証拠保全、影響分析、法務および顧客への連絡、根本原因の是正、インシデント後の管理改善が必要となる。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 問答人形:企業のツールとデータにアクセスできる Agent
  • 偽指令:prompt injection または悪意ある入力
  • 顧客リスト流出:セキュリティインシデントによるデータ露出
  • 人形を直接切る:乱暴な止血だが業務と証拠を損なう
  • 認証情報の凍結とセッションの分離:containment とアクセス制御
  • 呼び出し記録の保存:証拠保全、監査、根本原因分析
  • 権限境界とマスキング:長期的な修復制御
  • 最後の洞察:セキュリティ事故対応は、顧客、証拠、事業継続性、その後の修復を同時に守らなければならない

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

安全事故損切り(Containment)事後振り返り (Postmortem)

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号