← 返回概念解读

Concept Fable精修版

数据外泄

Data Exfiltration · Security

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

从账楼流出去的细线

城主府有间密库,里面放着税册、契约和战备图。守卫们最怕盗贼撬锁,于是在门上加了三道铁闩,出入都要登记。

很长一段时间,密库平安无事。直到有天,城外商人准确说出了几家粮仓的存量。门锁没有坏,铁闩没有撬痕,登记册也看不出陌生人进过。

守卫以为是夜里有人潜入,便加派巡逻。可消息仍慢慢流出:先是税册里的商号,再是契约上的折扣。每次泄出的都不是整本册子,只是几句看似无害的话。

后来查到一个抄写员。他没有把册子抱出去,只是在给外商写回信时,顺手夹带了库里的数字;有时借“举例”说出真实价格,有时把几份碎信息拼成暗号。

府里第一次修补,是禁止抄写员带纸出门。可他仍能把内容背在脑中,或藏进普通信件。大家才发现,秘密离开密库,不一定像偷箱子,也可能像水从细缝渗走。

新管事把防线移到出口。他规定,任何对外信件都要检查是否包含密库细节;抄写员只能看到完成差事所需的那一小部分;异常询问要暂停,并由专人复核。

新管事还重查了抄写员的差事。过去他能看到整本税册,只为回一封很小的信;现在每项差事只领对应页,临时多要材料必须说明原因。能接触多少,和要完成什么绑定起来。管事还设置了诱问。外商若连续问几句看似无关的小问题,合起来正好能拼出粮仓余量,信件就会被拦下。过去大家只防整本册子被偷,现在他们开始防碎片被一点点带走。府里也开始记录每次被拦的信。哪些是误拦,哪些是真泄露,哪些暴露了权限太宽,都要反过来改规矩。管事说,泄露常常不是一声巨响,而是一连串看似正常的小出口。

几个月后,府里少了许多“顺口透露”。守卫仍看门,但他们不再只盯铁闩。真正的危险,是被允许接触秘密的人或物,把秘密包装成正常交流带出去。

揭示

这个故事讲的是:数据外泄

Data exfiltration is unauthorized movement of data outside a controlled boundary. In Agent systems, it can happen through tool calls, prompts, logs, browser actions, API requests, file uploads, summaries, screenshots, vector retrieval, or malicious instructions. Controls include egress filtering, DLP, scoped context, redaction, approvals, audit logs, and tenant-aware policies.

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 账楼铁门:传统 perimeter 安全
  • 许多细线:通过合法工具和输出的小规模外流
  • 外部翻译/分析工具:第三方 API 或云服务
  • 按出口治理:egress control 与 DLP
  • 敏感字段占位符:脱敏和最小化上下文
  • 最后洞察:Agent 数据安全要管数据去向,而不只是管谁能登录

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

data leakageprompt injectionegress controlDLPaudit logs

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。