← 返回概念解读

Concept Fable精修版

差分隐私

Differential Privacy · Privacy

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

会撒盐的粮仓报表

山村粮仓每月公布各家余粮总数,方便商队安排车马。过去村长直接相加,大家相信总数不会暴露个人。后来村里只剩几户种稀有麦。某户一收一退,公布的总数就明显跳动,旁人很快猜到那家收成。村长先把户名删掉。可连续几个月对比总数,仍能推断谁多卖了一车、谁家可能断粮。

一个算师提出奇怪办法:每次公布前,按规则撒一点盐,让总数有受控的微小偏差。

村民担心报表不准。算师解释,单次报表不再暴露某一户是否在场;多次查询也要消耗预算,不能无限逼近真相。

粮仓保留准确原账,只把对外统计结果加噪,并限制查询次数、粒度和组合方式。商队仍能判断大趋势,却难以锁定某户。

后来有人故意反复问相近问题,想从差值里挖出个体。整套装置拒绝了超出预算的查询。

粮仓学到的不是“把数据弄脏”,而是在可用统计和个体隐私之间建立数学边界,让单个人的存在不决定答案。

算师还把撒盐的规则写给村长看:盐不能随手撒,今天多一点、明天少一点都要按骰盘来,否则外人仍能从规律里猜出真数。村长这才知道,保护隐私不是靠含糊,而是靠可证明的偏差。

年底分粮时,村里仍用内账精确结算;对商队、邻村和市集,只给加盐后的统计。大家牺牲了一点点清晰度,换来每户人家不必把粮缸暴露在所有人的算盘下。村民因此愿意继续交真实内账,因为他们知道公开账不会把某一家的日子单独端出去。这份边界让统计继续有用,也让沉默的人仍被保护。外人看见趋势,村民保住余地。村长也因此敢继续发布月报。更稳。可靠。

揭示

这个故事讲的是:差分隐私

差分隐私通过加入经过设计的数学噪声,限制单个样本对统计结果的影响。目标是让外部人很难从输出里判断某个人的数据是否参与了计算。

它的关键不是把数据随便打乱,而是在可用统计结果和个体隐私之间设定预算。相近问题问得太多,也可能把噪声抵消掉,所以查询次数和隐私预算必须被管理。

隐喻映射

  • 粮仓总数=统计输出
  • 某户是否在场=单个样本影响
  • 撒盐=数学噪声
  • 查询预算=privacy budget
  • 反复相近问题=差分攻击风险

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

privacyDP-SGDanonymization

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。