← 概念辨析に戻る

Concept Contrast Fable

EU AI 法案と高リスク AI システム、一方は法律全体、もう一方は法律の中で囲われた一類

先に結論:EU AI 法は法的枠組みであり、異なるリスク等級と対応するコンプライアンス義務を定義している。高リスク AI システムは、この法律のリスク分類体系の中で「高リスク」と标记された具体的な対象の一種である。法律とその中の分類名称を同じ層の概念として扱うと、コンプライアンス評価で過剰になったり漏れたりする。

EU AI 法は法的枠組みであり、異なるリスク等級と対応するコンプライアンス義務を定義している。高リスク AI システムは、この法律のリスク分類体系の中で「高リスク」と标记された具体的な対象の一種である。法律とその中の分類名称を同じ層の概念として扱うと、コンプライアンス評価で過剰になったり漏れたりする。

寓話

ある城の城門令と、城門令に描かれた一扇の黄門

大周朝は城門令を出した。令では入城する貨物をいくつかの類に分けた。茶葉と布は緑門、薬材・鉄器・火薬は黄門、武器と軍馬は紅門、見たことのない新貨はまず白門で、暫定保留として等級付けを待つ。半年後、州府は京に戻り功を報告したが、提出したのは黄門の査験証書の束だけだった。京からの返書は、黄門は整っているが、城門令は黄門の一章だけではないと述べた。

隣県でまもなく問題が起きた。等級未定の新しい硫黄粉の一批が普通の茶貨として緑門を通り、雨の中で毒煙が立ち上った。追跡調査で、州府の黄門は見事に検査していたが、白門の保留手続きは誰も管理していなかったことが判明した。

コンプライアンス担当者が城門令を読み直した。それは分類の方法だけでなく、各分類の門を通る際に必要な書類、検査後の記録保管、州をまたぐ処罰、毎年の改訂までを定めている。黄門は数ある門色の一つにすぎず、令全体を指すものではない。

彼は城門の各編を異なる官署に割り当てた。分類官は新貨がどの門に入るかを管理し、査験官は黄門の文書を管理し、記録文書官は証拠の保管を管理し、巡査官は旧定級の再審を管理する。各々が職務を担うが、互いに見えるようにしなければならない。

後に新しい工法が、ある旧品を緑門から黄門へと改良した。州府はそこで初めて、『自分は黄門品か』と一度だけ問うてはならないと知った。貨物、用途、傷害の方式が変われば、門の色も変わる。

州府はそこで初めて気づいた。黄門は重点的に監視される門の一種にすぎず、城門令全体ではない。黄門の吏だけを訓練すれば、緑門、白門、紅門に穴が残る。城門令の標題だけを暗記すれば、なぜ黄門がより厳格なのか分からない。

京城から派遣された巡察は黄門の証書だけをめくらなかった。彼は各門に沿って問うた。誰が等級を定めるのか、荷主はどう不服を申し立てるのか、事故後に誰が記録を残すのか、州をまたぐ移動をどう追跡するのか。州府はこれで初めて城門統治の一式を整え、最も目立つ黄門をすべてとはしなかった。 後に州府が新吏を訓練するときは、まず城門令の全体を説き、次に黄門がなぜ特別かを説いた。新吏は重点門類をすべての法律と見なさなくなり、法律の標題だけを暗記してどの門を厳しく調べるべきか知らないこともなくなった。

年次報告書では、州府はより慎重に書いている。城門令は一連の生きた枠組みであり、黄門は厳重な検査の対象となる一種のカテゴリーである。黄門が基準を満たしても令全体が基準を満たすわけではなく、白門の見落としも同じくらい大きな問題を引き起こしうる。

EU AI 法

EU 人工知能法は、リスク分级を核心とする一つの法的枠組みであり、分類、適合性評価、透明性、監督、執行、罰則などの完全なガバナンスチェーンをカバーする。

高リスク AI システム

EU AI法のリスク分類体系で「高リスク」と標識された具体的なシステムカテゴリは、より厳格なコンプライアンス要件——リスク管理、データガバナンス、技術文書、人的監督などを満たす必要がある。

物語の対応

  • 城門令全文六編:EU AI 法案の完全な枠組み。分類、格付け、検査、記録文書、処罰、改正を網羅する
  • 黄門の検査証書:高リスクAIシステムのコンプライアンスチェックリスト、フレームワーク内の一つのリスク等級の特定要件のみに対応
  • 新型硫黄が茶葉に混ざって緑の門を通る:白い門の見落としが事故を引き起こす——高リスクのコンプライアンスだけを徹底しても全体のコンプライアンス達成にはならない
  • 各編を分解し部門ごとに分担する。法案の各編は異なるガバナンス問題に対応し、高リスク分類はそのうちの一層にすぎない。
  • 昨年は許可証が不要だった貨物が今年は黄門に区分される。リスク分類は動的で、一度の検査ではなく継続的な評価が必要だ
  • 黄門の基準達成は城門令の基準達成を意味しない:高リスクのコンプライアンスを全体的な法令遵守と同一視するのはよくあるコンプライアンスの盲点である

AI コンプライアンス体系の構築に落とし込む

チームがAIコンプライアンスを行う際に最も犯しやすい誤りは、「私の製品は高リスクAIシステムではない」を「私の製品はEU AI法案の制約を受けない」と同一視することである。この法案には高リスク類のほか、限定リスク類の透明性義務、汎用AIの義務、そして新カテゴリが継続的に格付けされるプロセスがある。コンプライアンスの第一歩は、自分のシステムがどのリスクカテゴリに属するかを確定することであり、いきなり高リスクリストに飛んで対照することではない。コンプライアンス予算が一つのことしかできないなら、まず分類評価と継続的格付けメカニズムを行い、カテゴリ変更によって突然検査範囲に引き込まれないようにする。

京ICP备2026014272号