← 概念辨析に戻る

Concept Contrast Fable

AIセキュリティとAIガバナンスの違いは何か

先に結論:AI セキュリティが防ぐのは外部からの攻撃——プロンプトインジェクション、ジェイルブレイク、データポイズニング——であり、城門を守るようなものだ。AI ガバナンスが管理するのは内部のルール——誰がどのモデルを使うか、意思決定をどう審査するか、バイアスをどう監視するか——であり、城の規則を定めるようなものだ。両者の分業の境界は固定されてはならない。

AI セキュリティが防ぐのは外部からの攻撃——プロンプトインジェクション、ジェイルブレイク、データポイズニング——であり、城門を守るようなものだ。AI ガバナンスが管理するのは内部のルール——誰がどのモデルを使うか、意思決定をどう審査するか、バイアスをどう監視するか——であり、城の規則を定めるようなものだ。両者の分業の境界は固定されてはならない。

寓話

城門を守る者と規則を定める者

北境新城が建つと、二つの重要な職が設けられた。杜都尉は城門を守り、出入りの取り調べを管理する——刺客を防ぎ、凶器を調べ、路引を検め、城外の厄介事を混入させない。曹大人は役所の門口に座り、内城の法度を管理する——各鍛冶屋の火の使用に規則はあるか、酒肆は深夜に営業してよいか、隣人同士の土地争いはどう裁断すべきか。

二人はそれぞれ持ち場を管理し、井水は河水を犯さず、二年間は平穏無事だった。杜都尉は城門で偽の通行証をめくり、商人に扮したスパイを捕まえた。曹大人は役所の門前で酒場の騒音を裁き、鍛冶屋の火花が隣家に飛んだ件を罰した。町の人々はこの二人が城を盤石のように守っていると感じていた。

三年目の春、何者かが市の中心の井戸に毒を入れた。三日のうちに四十人以上が病んだ。半月調べた末、毒を入れた者は捕まった——よそから来た曲芸師だった。杜都尉の兵は城門で彼を調べたが、その時彼の荷物には彩球と銅環しかなく、路引も本物だったので、兵士は通したのだった。

事が大きくなり、老城主は二人を広間に呼び出した。杜都尉が先に口を開いた。「私の職務は城門を守ること。彼が入城した日、腰に刀は隠しておらず、荷物に凶器もなく、路引も確認済みです。見た目が怪しいというだけで城外に止めるわけにはいきません。」曹大人が続けた。「私は内城の規則を管理しています。彼は毒を盛る前に、いかなる城の規則も犯していません。通報も告訴もなく、事前に彼の行動を知ることなどできません。」

老城主は話を聞き終えると、新しい城防図を広げた。城門では凶器と路引の確認に加えて、もう一つ問いを加える——「城に入って何をするつもりか」。答えられる者は通し、答えられない者は衛所に連れて行き登記・記録し、やるべき事項を書いた紙を渡す。城内の各街に保長を一人置き、自分の街の見知らぬ者の出入りと行踪を専門に管理し、異常があれば直接曹大人に報告する。

最も重要な変更は城門でも役所でもなく、二つの机の間にある。杜都尉の盤査記録は、毎日一部を書き写して曹大人の机に届けなければならない。曹大人配下の保長記録簿も、毎週一部を書き写して杜都尉に返さなければならない。曹大人が、登録されたある外来者が三日間どの街の記録にも現れていないと気づけば、直ちに城門衛に知らせる——人は隠れているかもしれない。

新規則を推し進めて半年、城内ではもはや毒殺事件は起きていない。隣城の守将が経験を尋ねに来たとき、老城主はただ一言だけ言った:規則と城門の間に隙間があってはならない——刺客が外にいるときは杜都尉の事柄であり、混入した後は曹大人の事柄である。しかし刺客は自分が今、門の内側か外側かを教えてはくれない。

AI セキュリティ:外部攻撃を防ぐ

外部攻撃を防ぐ技術層:プロンプトインジェクション、ジェイルブレイク、データポイズニング、敵対的サンプル。モデル自体の入出力経路が悪用されていないかに焦点を当て、城門での取り調べに相当する——外敵の侵入を防ぐ。中核的な作業は、異常入力の検出、悪意ある行為の遮断、モデル境界の強化である。

AIガバナンス:内部規則を管理するもの

内部使用を管理する制度層:誰がどのモデルを使えるか、AIで意思決定する際に審査が必要か、バイアスをどう監視するか、事故をどう報告するか。城内の法度と監督に相当し、自分たちが火をどう使うかを管理する。中核となる動作は、規則を定め、プロセスを審査し、追跡を行うこと。

物語の対応

  • 杜都尉が凶器を調べ路引を検める:AI セキュリティ、外部の悪意ある入力と攻撃を防ぐ
  • 曹大人は城内の法度を司る:AIガバナンス、内部利用ポリシーの策定とコンプライアンス監督
  • 毒を盛る者は街に入る時は清潔だった:合法的な入力も後の攻撃の媒体になり得る
  • 事故後に二人が互いに押し付け合う:安全とガバナンスがそれぞれ勝手に動き、その隙間こそ攻撃者の通路
  • 城門にもう一道の問いを加える:入力層に意図検出を追加し、安全ポリシーを前倒しする
  • 取調べ記録と保長日誌が互いに写し合う:セキュリティログとガバナンス監視を連携させ、共同対応を形成
  • 刺客は自分が門の中にいるのか外にいるのかを言わない。攻撃面は組織の境界を守らず、セキュリティとガバナンスは協働しなければならない

チーム編成に落とし込む

企業が AI を導入すると、セキュリティチームはモデルが注入されないか、訓練データが汚染されていないかを見張る。これは技術の防線だ。ガバナンスチームは誰が使い、正しく使っているか、偏差が監測されているかを見張る。これは制度の防線だ。両者の情報は通じ合わなければならない——セキュリティが発見した攻撃パターンは、ガバナンスが利用ルールに変換する。ガバナンスが発見した不適切利用は、セキュリティが防御戦略に組み込む。

京ICP备2026014272号