← 概念解説に戻る

Concept Fable

適合性評価

先に結論:Conformity Assessment は、規制対象の AI システムを市場投入または使用する前に、適用される法律および標準の要件を満たしているかを検証する手続きである。ハイリスク AI/Agent の場合、通常は技術文書、リスク管理、データガバナンス、テスト、ログ、人間による監督、サイバーセキュリティ、品質マネジメントシステム、および必要に応じて第三者評価が関与する。リリース後の重大な変更も再評価が必要となる場合がある。

Conformity Assessment · Regulation/Compliance

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

赤い櫃の機械が橋を渡る前に、三道の検橋門を通る

町に新しく造られた自動橋門がまもなく稼働する。車両を識別し、橋銭を徴収し、危険な貨物を止め、違反者のリストを巡回隊に送る。工匠は橋門を百回試したと言い、城主も開通式を急いでいる。しかし老いた橋の検査官は門口に立ちはだかった。動くことは、合格を意味しない。かつては小さな道具が壊れても、直せば済んだ。だがこの橋門が一度誤れば、救急車を止め、隊商に誤って罰金を科し、足取りを漏らし、町全体の通行に影響しうる。

工匠はまず宣伝用の図面を束にして提出した。橋の検査官はそれを返却し、リスク文書、設計説明、データ出所、テスト結果、人による監督計画、記録形式、安全証明を求めた。

橋の検証は三道の門:書類が完全か、制御が実際に動作しているか、装置全体が適用規則に適合しているか。高リスク部分は独立機関による再審査も必要。

一つのテストが失敗した:夜雨の中で外地ナンバープレートの誤認識率が高すぎた。工匠がデータを修正し、人的フォールバックを入れた後、橋閘は合格マークを得た。

稼働後も、合格マークは免罪符ではない。重大な変更、事故、性能ドリフトは再評価を引き起こす可能性がある。

町はこれによって理解した。適合性評価とは機械にメダルを貼ることではなく、高リスクの一式装置が市場や重要プロセスに入る前に、規定の要求を満たすことを証明することである。

検橋官はさらに、巡邏隊、医館、商会にそれぞれ一人ずつ試すよう命じた。巡邏隊は料金逃れを気にし、医館は急ぎの車の通行を気にし、商会は貨物車の誤った阻止を気にした。三者が試して初めて、同じ一つの閘門が異なる人々の目には異なるリスクとして映ることが分かった。

城主はそこで初めて理解した。橋の検査は開業を遅らせるものではない。主要な道に導入される装置ほど、製造者の「動く」という言葉だけを信じてはならない。来歴、境界、障害時の対応、再確認の方法をすべて明らかにしなければならない。その後、新しい仕掛けが橋に上がるたびに、工匠はまずこう問いかけた。このものは最悪の場合誰を傷つけるのか、そしてそれが確認済みであることを誰が証明すべきか。検橋官はこの言葉を門のそばに刻み、後に続く者に先に証明してから通行せよと促した。これもまた、城が通行をそれに委ねようとする前提である。さもなければ、賑やかなテープカットはリスクを橋面に押し出すだけだ。

明らかにする

この物語が語るのは:適合性評価

Conformity Assessment は、規制対象の AI システムを市場投入または使用する前に、適用される法律および標準の要件を満たしているかを検証する手続きである。ハイリスク AI/Agent の場合、通常は技術文書、リスク管理、データガバナンス、テスト、ログ、人間による監督、サイバーセキュリティ、品質マネジメントシステム、および必要に応じて第三者評価が関与する。リリース後の重大な変更も再評価が必要となる場合がある。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 自動橋閘:規制対象の高リスクAIシステム
  • 宣伝図:コンプライアンスを証明するには不十分なマーケティング資料
  • 三道の橋検証ゲート:文書、制御、規則適合性チェック
  • 独立機関によるレビュー:第三者適合評価
  • 夜雨车牌失败:評価で見つかった欠陥
  • 重大変更の再評価:継続的コンプライアンス要件

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

EU AI ActCE markinghigh-risk AIテクニカルドキュメント
京ICP备2026014272号