← 返回概念解读

Concept Fable精修版

可追溯性

Traceability · Governance

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

钟楼的回声线,让一句命令找到来路

山城的钟楼负责给全城报时。早年只有一口钟,守钟人听见城主命令,就敲几下。大家只要听到钟声,便知道该开市或关门。

城变大后,钟声开始驱动水门、粮仓、马队、药铺和税所。一个错误钟点会让整条街提前收摊,也会让药车错过城门。

守钟人先在钟旁挂了一块牌,写下今天敲了几次。牌子能证明钟响过,却不能说明是谁下令、命令从哪里来、为什么变成这个节奏。

一次暴雨夜,水门提前关闭,低街被淹。水门说自己听钟行事,钟楼说自己按纸条敲钟,送信人说纸条来自粮仓,粮仓却说只是询问天气。每一步都合理,串起来却荒唐。

新任书记给每道命令系上回声线。命令从谁发出、经过谁转述、被哪条规则解释、触发了哪些动作、动作结果回到哪里,全都在同一条线上标记。

下一次钟声异常时,书记沿线回看,发现不是钟楼误敲,而是天气询问被旧模板识别成紧急闭门指令。问题藏在解释环节,不在执行环节。

山城因此改变了修错方式。过去出事就处罚最后敲钟的人;现在先重建路径,看信号在哪一站变形,责任和修复才有落点。书记还要求每条线能向前也能向后查。出了事能从后果追到来源,改一条规则也能知道会影响哪些水门、粮仓和马队。线不是为了追责才存在,也为了改动前看清波及。山城还用回声线训练新人。书记给他们一场旧事故,让他们从结果倒推到最初命令,再从命令顺推到后果。能双向走通,说明记录足够完整;走不通的地方,就是下一次失控可能藏身的位置。城主后来发现,记录越完整,争吵越少。人们可以沿线修事,而不是围着最后一个执行者吵。

守钟人说,能看到结果不等于能理解结果。可追溯性让一件事从输入、判断、动作到后果连成线,系统才有资格被信任。

揭示

这个故事讲的是:可追溯性

Traceability 是重建系统为什么产生某个输出或采取某个动作的能力。企业 Agent 中,它要求把用户请求、上下文、检索来源、模型选择、提示词版本、工具调用、权限判断、人工审批、外部写入和最终结果关联起来。可追溯性不是单个日志字段,而是一条跨组件的因果链;它帮助企业解释决策、定位错误、满足审计要求,并把责任从模糊争论变成可验证路径。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 钟楼和全城设施:Agent 触发多个业务系统动作
  • 今日敲钟次数:只记录结果的浅层日志
  • 暴雨夜水门提前关闭:Agent 决策链错误导致业务损害
  • 回声线:端到端可追溯链路
  • 命令、规则、动作、结果:输入、推理上下文、工具调用和输出
  • 天气询问被识别成闭门指令:分类、模板或策略解释错误
  • 沿线回看:解释输出来源和定位根因

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

audit logsobservabilityprovenance