← 概念辨析に戻る

Concept Contrast Fable

AI 影響評価とデータ保護影響評価、一方は AI が誰を傷つけるかを問い、一方はデータがどう漏れるかを問う

先に結論:AI 影響評価は、AI システムの導入が個人と社会に及ぼし得る体系的な影響——バイアス、差別、自動意思決定の公平性と透明性——に注目する。データ保護影響評価は、個人データ処理活動におけるプライバシーリスク——データ収集が過剰でないか、保存が安全か、データ主体の権利が保障されているか——に注目する。AIIA が問うのは「AI が不公平にローンを拒否しないか」であり、DPIA が問うのは「ユーザーの収入データが暗号化されて送信されているか」である。

AI 影響評価は、AI システムの導入が個人と社会に及ぼし得る体系的な影響——バイアス、差別、自動意思決定の公平性と透明性——に注目する。データ保護影響評価は、個人データ処理活動におけるプライバシーリスク——データ収集が過剰でないか、保存が安全か、データ主体の権利が保障されているか——に注目する。AIIA が問うのは「AI が不公平にローンを拒否しないか」であり、DPIA が問うのは「ユーザーの収入データが暗号化されて送信されているか」である。

寓話

役所は二組の審理規程を新設した。一組は判決の結果を見て、一組は巻宗の保管規則を見る

天和年間、各州は銅の判鏡を試用し、旧案に照らして推官に判決文を差し出せた。大理寺は、鏡を開く前に二部の巻冊を提出するよう命じた。多くの州県は面倒を嫌い、二部とも『銅鏡は慎重に使用し、鍵は専任で保管』と書いて、慌ただしく上呈した。ある書記は理解できず、どちらも事故防止なら一冊の総冊で十分だと考えた。しかし沈珩は、一冊にまとめると、最も追及されるべき問題が美しい文句に覆い隠されることを心配した。

青州推官の沈珩はそのまま写さなかった。彼はまず銅鏡を三種類の案件に入れて試した。田産争い、商債紛争、婚産分割。結果、ある未亡人の財産争い案件では、銅鏡が旧年の宗族偏重の判決を踏襲することが多かった。外郷の商人は訛りを書記が曖昧に書くと、より損をしやすかった。沈珩はこれらの人々の状況、誤判後の救済路、申訴窓口、停止条件を別冊に書いた。彼の最初の書き方も不十分だった。案件種別を列挙しただけで、誰が誤判された後どう申訴するかを書いていなかった。大理寺は巻冊を返却し、影響を受ける人、救済期限、停止条件を明確に書くよう求めた。

第二冊で彼が調べたのは巻宗そのものだった。どの案件記録を銅鏡に見せてよく、どの名前を隠し、どの病歴、家書、幼児の証言を外部に出してはならないか。写本人がいつ巻を取り、何日で返し、誰が閲覧できるか、すべてに印跡が必要だった。巻宗の検査も手戻りを経験した。名前を隠した後、沈珩は地名、家族の序列、希少な病名がなお人を指し示すことに気づき、手がかりをさらに弱めざるを得なかった。

隣州は美辞麗句を一冊納めただけだった。鏡を開いて三ヶ月後、騒ぎが起きた。銅鏡は巻物を漏らさなかったが、いくつかの種類の人々をより重い結果へと追いやった。同時に、古い事件の花名簿が茶館の講釈師によって残頁から組み立てられた。二つの事柄はどちらも重大だが、同じ種類の誤りではない。

後に大理寺が巻物を審査する際、まず二つの巻冊にそれぞれ担当者がいるかを尋ねた。もし同じ人物が「慎重に」と一言書いただけなら、差し戻してやり直させた。被害の経路が異なれば、調査方法・補償担当者・停止条件も異なるからだ。

大理寺は後に規則を明示した。一冊は新しい器物が人と事をどう変えるかを問い、もう一冊は証拠がどこから来て、どう使い、漏れ出さないかを問う。前者は結果と責任を見て、後者は資料と境界を見る。二冊のうち一冊が欠ければ、銅鏡は開けない。

AI 影響評価

AIシステムの社会的影響を体系的に評価する。重点は公平性、バイアス、透明性、自律的意思決定が個人の権益に与える影響。答える中心的な問いは「このAIシステムは特定の人々を傷つけるか」。

データ保護影響評価

個人データ処理に関わる活動についてプライバシーリスク評価を行い、重点はデータ収集の必要性と比例性、安全対策、データ主体の権利保障を含む。答える核心的な問いは「このデータ処理活動は個人のプライバシーを侵害するか」。

物語の対応

  • 機断衙と鉄判儀:AIIA と DPIA を同時に発動する AI システム
  • 計器使用後の影響評価:AIIA——自動化された意思決定が特定の集団に与える差異的影響を測定する
  • 鉄判儀は婦女財産案件を一割五分重く判定:データバイアスが不公正な意思決定を招く古典的場面
  • 巻宗使用評価:DPIA——データ処理の安全性、匿名化、アクセス制御を確認する
  • 沈推官は二つの報告をそれぞれ別に調べる:唯一正しく区別できる事例
  • AI Act + GDPR の二重トリガー:同一製品、二種類の報告、統合できない現実のコンプライアンス要件
  • データ品質の交差点:DPIA はコンプライアンスを、AIIA は結果責任を管理する——同じデータの二つの次元

AI製品のコンプライアンス文書と規制申請に落とし込む

あなたの AI 製品が AI Act の高リスク分類と GDPR のデータ処理範囲の両方に該当する場合、一つの統合文書ではなく二つの独立した報告書を作成しなければならない。AIIA の中核章は差異影響分析である——分群データでモデルの異なる集団における性能差をテストし、緩和措置を示す。DPIA の中核章はデータフロー図とセキュリティ制御マトリクスである——データがどこから来て、誰が処理し、どこに保存され、何で保護されるかを記述する。二つの文書は相互参照できるが、論理は独立している。データセキュリティの内容だけで差異影響分析のない「AI 影響評価」を規制当局に提出した場合、規制当局はあなたが評価義務を完了していないと判定できる。

京ICP备2026014272号