SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

人在回路和审批流:一个是实时纠偏,一个是事前签字

Agent 系统里都要加“人”,但加在哪、做什么,方案里常常一笔带过。人在回路是模型在运行过程中持续把关键决策节点交给人判断,人随时可以打断或纠正;审批流是在模型产出结果之后、发布之前加一道签字把关。位置不同,成本、延迟和风险窗口也完全不同。

寓言

印刷厂里两种不同的校对方式

老印刷厂每天印大量广告传单。早年排版师傅排完一整版,交给校对员从头到尾读一遍,读完了签字,然后上机开印。这套流程用了十几年,大家觉得天然就该这样,慢就慢点,出错大不了重印。

后来接了一批医药说明书,错了会出事。排版师傅提议试试新办法:他每排完一段关键内容——剂量、禁忌、用法——就把这一小段推到校对员屏幕上,校对员当场确认或退回修改。排版和校对交错进行,整版排完时,关键段落已经被确认过多轮了。

印刷效率反而更高了。以前整版排完后校对,发现标题里有个错字,需要拆版重排大半页。现在错误在段落级别就被拦住,排版师傅不用回头拆已经定型的版心。

新主管上任后觉得两套方法太复杂,统一成“所有文件必须经校对员签字后才能付印”。他把医药说明书的逐段校对撤了,换成排版完成后一次性审核。结果第三周就出了事故:一则免责声明的字号小了两号,排版全程没人核对,等校对员翻到那一行时版已经进机了。

事后复盘,大家才看清两种签字的根本区别。逐段校对是在排版过程中嵌入了人的判断,排版师傅每走一步都可能被叫停——人在回路。一次性审核是排版流程全部结束后,由校对员确认最终稿——审批流。后者只能拦最终结果,拦不住中间步骤里的隐患。

厂里后来把两类流程明确分开:高风险物料用逐段交审,人在每一步都可以叫停;低风险印刷品用整版终审,只设一道签字关。流程卡和排班表上清清楚楚标着每次核对属于哪一类。

最意外的收获是排期数据。逐段校对虽然环节多,但整体完工时间反而更短——因为错误在生产过程中就被消灭,不需要整版重排。终审签字看着简单,但一个藏在底层的错误就能把交付期打乱好几天。

人在回路

模型运行过程中,关键决策节点交给人实时判断、纠正或中断,人的反馈持续影响后续输出。

审批流

模型完成全部输出后,由人审核并签字确认才能发布或执行,是事后的管控闸门。

故事对应

  • 逐段排版即时推给校对员:人在回路,运行过程中持续交审
  • 整版排完一次性签字:审批流,事后闸门式审核
  • 新主管统一成终审导致事故:混用两种模式,高风险场景失去中间拦截
  • 两类物料用两类流程:根据风险等级选择 HITL 还是审批流

落到 Agent 项目里

设计 Agent 的人机协作时,先分类:哪些步骤需要人在中间叫停,哪些只需要事后签字。需要中间叫停的要设计交互接口和中断协议,成本高但风险窗口小;只需事后签字的要确保输出可审计、可追溯,成本低但需要承担中间步骤的全部风险。