← 返回概念解读

Concept Fable精修版

事实锚定

Grounding · Reliability technique

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

每句话都要拴回一根桩

灯塔镇的顾问很会说话。船主问天气、货价、码头规则,他都能给出流畅建议,镇民一度非常喜欢他。

麻烦出现在一场大雾后。顾问说东码头还能停船,船队照做,却发现前夜刚贴出禁停令。顾问的语气很确定,依据却停在旧记忆里。

镇长先让顾问说话更谨慎,要求每句前面加‘可能’。这让答案听起来安全,却没有让事实更可靠。

后来,守塔人立下新规:凡是涉及现实状态、政策、价格、库存和客户承诺的回答,都必须拴回当前证据。没有证据,就说明需要查询。

顾问开始先查灯塔记录、码头公告、合同台账和工具返回结果,再组织回答。每个关键判断后面都有来源或系统状态。

这改变了工作流。顾问不再凭旧记忆包办所有判断,而是被迫和真实世界对齐:灯塔查到什么,公告写着什么,码头当下是什么状态。慢慢地,镇民学会区分两种聪明:一种是把话说圆,一种是知道该去哪里核对。前者适合闲谈,后者才能承接航线、货款和客户承诺。

团队也看到 grounding 不是万能。证据库过期、检索错、工具返回脏数据,都会让答案带着证据一起错。所以证据本身也要治理。后来管事把这次经验写进日常规矩:先看场景,再看边界,最后看失败时谁能接手。只有这些都清楚,漂亮演示才会变成可交付的工作。

从那以后,灯塔镇不再奖励最会讲的人,而奖励能把话拴回事实的人。守塔人还安排了巡查。公告过期要撤下,合同改版要标日期,工具返回异常要亮红灯。否则顾问虽然引用了牌子,牌子本身却已经被风吹歪,错误会披着证据外衣继续传播。

揭示

这个故事讲的是:事实锚定

Grounding 是把模型输出和决策锚定到给定证据、工具结果、源文档或已验证系统状态上,而不是依赖模型猜测。企业 Agent 中,grounding 是降低幻觉、支撑审计、生成引用和建立用户信任的关键机制。它要求检索质量、工具可靠性、证据时效和回答约束一起工作。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 会说话的顾问:流畅但可能凭记忆生成的模型
  • 禁停令:现实状态变化
  • 每句话拴回一根桩:输出必须基于证据或工具结果
  • 证据库过期:grounding 依赖证据质量
  • 奖励能拴回事实的人:企业 Agent 的可信交付标准

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

RAGtool useverificationhallucination reductionsource citation