← 返回概念解读

Concept Fable精修版

Agent 决策追踪

Agent Decision Tracing · 可观测性

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

城防司里那条会回头说话的巡街路线

盐仓有一队铜手替账房分拣盐袋。它们按牌子把盐送往不同库房,速度很快。某天贵盐被送进普通库,卖价低了一半,掌柜追问是谁下的令,众人却只看见铜手已经做完。

工匠起初说,铜手按规矩办,不必知道过程。账房不答应:若不知道它看了哪张牌、用了哪条规矩、何时改道,下次还会错。工匠担心记录太多会拖慢铜手,便只让它们刻“已完成”。出错后这三个字毫无用处,像在案发现场只留一句“事情发生了”。

于是每只铜手腰间挂一串小牌。取袋时刻一牌,读到的盐号刻一牌,查到的库房规则刻一牌,遇到模糊字样是否请人复核也刻一牌。小牌不写冗长心思,只留关键转折。小牌第一版又刻得太细,连每次抬手都记,账房看不过来。后来他们只留会影响去向的节点:读到什么、按哪条、为何跳过复核。

几日后又出错。一袋“细白盐”被送错。账房沿小牌查到,铜手先读成“细日盐”,再按旧字典匹配普通库,且没有触发复核。问题不在搬运,而在字典和复核阈值。

工匠修了字典,又规定遇到相似字必须挂黄牌请人看。下一次同类盐袋出现,小牌显示它停在黄牌处,由老师傅确认后才入贵盐库。修好后,掌柜还安排旧案回放。让铜手重新走一遍那袋盐,确认它会在同一处停下,而不是只在纸面上修过。

盐仓后来把小牌接到赔付流程。客户质疑时,账房能说明哪一步出错、为何赔、怎样避免重犯。可追踪的路标,不只服务修理,也服务信任。

掌柜终于能把错误定位到具体环节,而不是笼统责怪铜手。盐仓学到,会办事的器械越多,越需要留下足够的决策路标。追踪不是为了窥探每个念头,而是为了在损失发生后知道哪一步该修。

揭示

这个故事讲的是:Agent 决策追踪

Agent Decision Tracing 指把企业 Agent 在执行任务时的关键判断、上下文来源、工具调用、规则命中、备选路径和放弃原因记录下来,让团队能复盘“为什么这样做”。它不是普通日志堆积,而是决策链路的可解释证据。落地价值在于定位错误来源、支持审计问责、改进策略,并判断哪些决策可以继续自动化。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 巡夜路线:Agent 执行任务的行动轨迹
  • 最后的圈:只看结果的粗糙日志
  • 更多字的木板:事后补充说明,无法还原真实决策
  • 小牌:结构化决策证据,包括输入、规则、工具和分支选择
  • 盐仓失窃:一次需要追责和复盘的失败任务
  • 把更多街巷交给它:在可追踪前提下提升 Agent 自主度

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

推理链追踪ReAct 日志工具调用序列