SH

Soloharness

概念 · 故事 · Agent

← 返回概念解读

Concept Fable精修版

事实核验

Fact Verification · Operations/Risk

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

告示贴出去之前,书记要敲三扇门

云杉镇的书记写字很快。镇里要发告示,他能把语言整理得清清楚楚:道路封闭、税期调整、集市改日、河桥维修。大家都说他是镇上最会写公告的人。

有天,他听说东桥下周要封三天,便写好告示贴在街口。商户们开始改送货时间,船夫也绕了远路。可第二天工匠来问:谁说封三天?我们只是准备测量,真正施工还没批。

书记很尴尬。他说,消息是从码头管事那里听来的,听起来很可靠。镇长说,可靠的人也可能只知道一部分。告示一贴出去,就不再只是闲话,而会改变很多人的行动。

于是镇里定了新规矩。凡是会影响钱、路、合同、药、税、法律和公共安排的告示,不能只靠一个来源。书记写完后,必须敲三扇门:第一扇门是原始记录,第二扇门是负责部门,第三扇门是最新状态。三处对得上,才能贴出去;对不上,就写成待确认。

后来又有一次传言,说北市集要取消。书记没有急着发告示。他查了会议纪要,问了市集负责人,又看了当天的天气预警。结果发现不是取消,而是延后一小时。

这次告示少了惊动,多了准确。商户没有白忙,镇民也没有误会。书记明白,写得漂亮只是最后一步;在贴出去之前,事实必须先经过门。

云杉镇后来把这条规矩说得很简单:会让别人行动的话,先别急着相信;先去确认。

揭示

这个故事讲的是:事实核验

事实核验 Fact Verification 是把 AI 生成的声明、结论或关键事实与可信来源、原始证据、权威系统或业务记录进行对照确认的过程。它用于降低幻觉、过时信息、误读和错误传播风险。对 Agent 系统来说,事实核验尤其适用于对外沟通、决策建议、合规内容、合同材料和高影响业务动作。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 书记:生成回答或公告的 AI / Agent
  • 听来的施工消息:未经核验的模型依据或外部信息
  • 告示贴出去:AI 输出被用于真实业务或对外沟通
  • 商户改送货、船夫绕路:错误事实会触发真实世界行动成本
  • 三扇门:多个可信验证来源或验证步骤
  • 原始记录:一手证据、文档、数据库或系统记录
  • 负责部门:权威业务 owner 或责任系统
  • 最新状态:避免引用过期信息
  • 写成待确认:核验不足时表达不确定性,而不是强行输出结论

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

groundingcitationhallucination riskhuman reviewauditability