← 返回概念解读

Concept Fable精修版

透明度

Transparency · Governance

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

灯笼上写清照向哪里,行人才知道该不该跟着走

夜市有很多引路灯笼。过去灯笼只照路,不说来处,行人跟着亮处走,很少多问。商会后来换上会说话的灯笼。它们能推荐摊位、安排路线、提醒优惠,还会根据客人的衣着、口音和随身牌改变建议。

摊主先觉得越聪明越好,只在灯笼底部刻很小的字:本灯仅供参考。多数行人看不见,也不知道灯笼为什么把自己带到这条街。

一天,外地客被灯笼带到高价摊区,回头才发现本地客看到的是另一条路。商会说灯笼只是推荐,客人却觉得被暗中摆布。

商会重新规定:灯笼必须说明自己是自动引路,用了哪些类别的信息,能做什么,不能做什么,谁负责维护,行人如何改选或投诉。

高影响路线还要显示理由摘要:因为距离近、排队短、预算匹配,或因为某摊付了推广费。推广和中立建议必须分开标明。透明之后,灯笼没有变笨。相反,行人更容易判断何时信任它、何时自己走,摊主也更难把私心藏进亮光里。

一位卖布老人被灯笼引到最贵的摊位,回家后才知道便宜铺子就在隔壁。商会起初让灯笼说得更客气:‘为你推荐’‘适合你’。话更圆,却没人知道它为什么这样带路,也不知道谁改过灯芯里的规则。

后来每盏灯笼旁多了一张小牌:这条建议看了哪些条件,是否收了摊主路费,行人能否选择不被记住,出错找谁申诉。灯仍然引路,但不再像黑箱里的神谕。人可以顺着光走,也能看见光从哪里来。有了这些牌子,摊主也收敛了。谁若悄悄买下所有亮路,行人能看见赞助标记;谁若被误带路,也能指出灯笼看错了哪项条件。信任来自可追问。

夜市学到,看得见角色、目的、限制和责任,人们才谈得上信任和问责。

揭示

这个故事讲的是:透明度

Transparency 指清楚披露 AI 系统的用途、能力、限制、数据使用、决策角色、责任方和用户选择。企业 Agent 场景下,透明度帮助员工、客户、审计方和监管方理解某个结果是否由 AI 参与、依据何种信息、能否申诉或要求人工处理。它是信任、合规和问责的基础。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 会说话的灯笼:面向用户的 AI/Agent 系统
  • 根据衣着和口音改变建议:个性化和潜在差别待遇
  • 小字免责声明:形式化披露
  • 外地客被带到高价摊区:不透明推荐造成伤害
  • 说明角色、数据和投诉方式:透明度要求
  • 理由摘要和推广标明:披露决策因素与商业影响
  • 行人判断是否信任:透明度支持知情选择

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

disclosuredocumentationexplainabilityEU AI Act transparency obligations