← 返回概念辨析

Concept Contrast Fable

AI 影响评估和数据保护影响评估,一个问 AI 会伤害谁,一个问数据会怎么泄露

AI 影响评估关注 AI 系统部署对个人和社会可能产生的系统性影响——偏见、歧视、自动化决策的公平性和透明度。数据保护影响评估关注个人数据处理活动中的隐私风险——数据收集是否过度、存储是否安全、数据主体权利是否得到保障。AIIA 问的是「AI 会不会不公平地拒绝贷款」,DPIA 问的是「用户的收入数据有没有被加密传输」。

寓言

衙门新设了两套审案规程,一套看断案的后果,一套看守卷宗的规矩

天和年间,各州试用一面铜判镜,能照着旧案给推官递判词。大理寺下令,开镜前须交两份卷册。多数州县嫌麻烦,把两份都写成‘铜镜谨慎使用,钥匙专人保管’,便匆匆上呈。有些书记不理解,觉得既然都是防出事,一本总册就够了。沈珩却担心,合成一本后,最该被追问的问题会被漂亮句子盖住。

青州推官沈珩没有照抄。他先把铜镜放进三类案子里试:田产争执、商债纠纷、婚产分割。结果发现,某些寡妇争产案里,铜镜常沿用旧年偏重宗族的判法;外乡商人若口音被书记写得含糊,也更容易吃亏。沈珩把这些人的处境、错判后的补救路、申诉窗口和停用条件另写一册。他第一次写得也不够。只列了案类,没有写谁会被错判后怎样申诉。大理寺退回卷册,要求把受影响的人、补救期限和停用条件写清。

第二册他查的是卷宗本身。哪些案卷能给铜镜看,哪些名字要遮,哪些病案、家书、幼童证词不可外传;抄卷人何时取卷、几日归还、谁能翻阅,都要有印痕。卷宗检查也经历过返工。遮住名字后,沈珩发现地名、家族排行和罕见病名仍能把人指回来,只好继续削弱线索。

邻州只交了一册漂亮话,开镜三月后出了乱子:铜镜没有漏卷,却把几类人推向更重的后果;同时,旧案花名被茶馆说书人从残页里拼了出来。两件事都严重,却不是同一种错。

后来大理寺审卷时,先问两份卷册有没有各自的负责人。若同一个人只写一句“谨慎”,就退回重做。因为伤害路径不同,调查方法、补救人和停用条件也不同。

大理寺后来把规矩讲明:一册问新器物会怎样改变人和事,另一册问卷宗从哪来、怎么用、会不会泄出。前者看后果和责任,后者看资料和边界。两册缺一册,铜镜都不能开。

AI 影响评估

对 AI 系统的社会影响进行系统评估,重点包括公平性、偏见、透明度和自主决策对个人权益的影响。回答的核心问题是「这个 AI 系统会不会伤害某些人群」。

数据保护影响评估

对涉及个人数据处理的活动进行隐私风险评估,重点包括数据收集必要性和比例性、安全措施和数据主体权利保障。回答的核心问题是「这个数据处理活动会不会侵犯个人隐私」。

故事对应

  • 机断衙和铁判仪:同时触发 AIIA 和 DPIA 的 AI 系统
  • 用仪后果评估:AIIA——测量自动化决策对特定人群的差异影响
  • 铁判仪对妇女财产案偏重一成半:数据偏见导致决策不公的经典场景
  • 卷宗使用评估:DPIA——检查数据处理的安全性、脱敏和访问控制
  • 沈推官两份报告各查各的:唯一正确区分的案例
  • AI Act + GDPR 双重触发:同一产品、两种报告、不可合并的现实合规要求
  • 数据质量的交叉点:DPIA 管合规性、AIIA 管后果性——同一批数据两个维度

落到 AI 产品合规文档和监管申报

如果你的 AI 产品同时落入了 AI Act 的高风险分类和 GDPR 的数据处理范围,必须撰写两份独立报告而不是一份合并文档。AIIA 的核心章节是差异影响分析——用分群数据测试模型在不同群体上的表现差异,并给出缓解措施。DPIA 的核心章节是数据流图和安全控制矩阵——描述数据从哪里来、谁处理、在哪里存储、用什么保护。两份文档可以互相引用但逻辑是独立的。如果你向监管提交了一份只有数据安全内容而没有差异影响分析的「AI 影响评估」,监管可以判定你未完成评估义务。