SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

AI 影响评估和数据保护影响评估,一个问 AI 会伤害谁,一个问数据会怎么泄露

AI 影响评估关注 AI 系统部署对个人和社会可能产生的系统性影响——偏见、歧视、自动化决策的公平性和透明度。数据保护影响评估关注个人数据处理活动中的隐私风险——数据收集是否过度、存储是否安全、数据主体权利是否得到保障。AIIA 问的是「AI 会不会不公平地拒绝贷款」,DPIA 问的是「用户的收入数据有没有被加密传输」。

寓言

衙门新设了两套审案规程,一套看断案的后果,一套看守卷宗的规矩

天和年间朝廷在各州新设了「机断衙」,用一套叫「铁判仪」的机器辅助判案。铁判仪读过近二十年全部刑案卷宗,能依据案情描述给出判决建议。机断衙设立之初,大理寺下令各州提交两份评估报告才能启用铁判仪。一份叫「用仪后果评估」,一份叫「卷宗使用评估」。各州推官多数分不清这两份报告的区别,写了相同的模板交上去。

青州推官沈大人是少数弄清楚了两份报告不同的人。他写「用仪后果评估」时做了三件事:第一,从近五年的判决中随机抽三百案,用手工判决和铁判仪建议相比较,发现在涉及妇女财产的案件中,铁判仪的判罚比手工判决平均重了一成半——因为历史卷宗本身就带着性别偏见,铁判仪学到了它。第二,他发现铁判仪对首次犯案和惯犯的区分度很差,一律从严。

这份报告的核心问题和数据隐私无关——它关心的是自动化决策对社会成员产生的差异影响。铁判仪可能没有泄露任何人的个人信息,但它做出的判决会让某一类人受到系统性不公。这就是 AI 影响评估的靶心。

沈大人写「卷宗使用评估」时关注的是完全不同的东西。他查了铁判仪的卷宗存储库:是不是所有案件都做了脱敏、历史卷宗里涉及未成年人信息的记录有没有隔离、州府传输案卷给铁判仪的驿道有没有加密封装、如果铁判仪的原厂师傅来维修是否可以读取全部历史卷宗。他发现卷宗脱敏只脱了人名和地名,但案情描述里提到了受害人的体貌特征——脱敏不够。维修师傅的权限没做限制,能读全量数据——访问控制不够。

两份报告合在一起交给大理寺后,大理寺的评事官在驿笺上批了一句:沈推官是唯一一个理解了两套规程各查各的人。其他人把后果写成了卷宗安全,把卷宗安全写成了后果清单,两份报告互抄段落,等于没分。

沈大人后来把两份报告分别装订。一本封面写「用仪后果」,里面放的是差异影响、误判风险、救济路径;另一本封面写「卷宗使用」,里面放的是脱敏、存储、传输和维修权限。大理寺要求两本书可以互相引用,但不能合并成一本。

两份报告唯一真正重叠的地方,是卷宗质量。卷宗是否合法、安全、必要,是「卷宗使用评估」要答的问题;卷宗里的偏见会不会让铁判仪伤害某类人,是「用仪后果评估」要答的问题。同一批卷宗,一边管来路和保管,一边管后果和责任,不能互相替代。

AI 影响评估

对 AI 系统的社会影响进行系统评估,重点包括公平性、偏见、透明度和自主决策对个人权益的影响。回答的核心问题是「这个 AI 系统会不会伤害某些人群」。

数据保护影响评估

对涉及个人数据处理的活动进行隐私风险评估,重点包括数据收集必要性和比例性、安全措施和数据主体权利保障。回答的核心问题是「这个数据处理活动会不会侵犯个人隐私」。

故事对应

  • 机断衙和铁判仪:同时触发 AIIA 和 DPIA 的 AI 系统
  • 用仪后果评估:AIIA——测量自动化决策对特定人群的差异影响
  • 铁判仪对妇女财产案偏重一成半:数据偏见导致决策不公的经典场景
  • 卷宗使用评估:DPIA——检查数据处理的安全性、脱敏和访问控制
  • 沈推官两份报告各查各的:唯一正确区分的案例
  • AI Act + GDPR 双重触发:同一产品、两种报告、不可合并的现实合规要求
  • 数据质量的交叉点:DPIA 管合规性、AIIA 管后果性——同一批数据两个维度

落到 AI 产品合规文档和监管申报

如果你的 AI 产品同时落入了 AI Act 的高风险分类和 GDPR 的数据处理范围,必须撰写两份独立报告而不是一份合并文档。AIIA 的核心章节是差异影响分析——用分群数据测试模型在不同群体上的表现差异,并给出缓解措施。DPIA 的核心章节是数据流图和安全控制矩阵——描述数据从哪里来、谁处理、在哪里存储、用什么保护。两份文档可以互相引用但逻辑是独立的。如果你向监管提交了一份只有数据安全内容而没有差异影响分析的「AI 影响评估」,监管可以判定你未完成评估义务。