← 返回概念解读

Concept Fable

人类在回路内

Human-in-the-Loop (Deep HITL) · 治理

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

师傅坐在长桌旁

粮仓装了自动分粮木车。普通领粮单一来,木车按人数、票据和仓位自己放粮,速度比老仓丁快得多。

第一月看似顺利,直到救灾队、孤寡老人和大额军粮单混进来。木车仍按常规放粮,有的耽误急需,有的放多了收不回。仓长这才发现,不能把所有判断都交给木车,也不能让人每一步都重做。

老账房拿出三枚红印:数额过大、凭证含糊、涉及弱者或急灾。木车遇到红印处必须停下,把理由、证据和建议摊在案上,请仓丁确认、改判或接管。普通单据继续自动走,不被拖慢。

几次之后,仓丁发现自己不是站在旁边看热闹,也不是被塞回每袋粮前。他们被放在最容易伤人的岔口,负责审核、纠错和承担责任。

红印一开始盖得太多,仓丁又被淹没。老账房删掉一些无关停顿,只保留会影响生命、钱粮和难以追回后果的岔口;每次人工改判,都要写下为什么。

几周后,木车学会把更多普通单顺利送过,仓丁也看得见哪些地方常出红印。人不再站在旁边装样子,而是在系统真正需要判断、负责和背书的地方进入。

仓长还发现,师傅坐在桌旁并不等于参与。若木车只给结论,不给依据,仓丁只能拍脑袋;若它把证据、理由和可选动作摊开,人才能在关键处真正接手。 后来仓长审查红印记录,发现几类单据总是让人接管,便回头改木车规则。人在回路内不只处理个案,也把反复出现的边界带回系统里。 仓库慢慢分清了自动处理、人工确认和人工接管的边界。

粮仓终于又快又稳。人的位置若太前,效率没了;太后,伤害已经发生。把人放进关键回路,才是真正的分工。

揭示

这个故事讲的是:人类在回路内

它指人在 AI 或 Agent 执行过程中多次参与,不只是最终审批,而是在理解、计划、执行、纠错和接管等环节提供判断。

它和浅层审批不同。浅层 HITL 可能只是在高风险动作前点一次确认;深度 HITL 更像协作,人类会影响中间步骤、补充上下文、调整目标,并在系统不确定时把任务拉回正确方向。

隐喻映射

  • 最后看一眼:浅层验收或最终审批
  • 师傅每一步都自己做:自动化失败,人成为瓶颈
  • 长桌多次介入:深度 HITL 的过程协作
  • 古董表接手:风险升级和人工接管
  • 关键齿轮前确认:高影响步骤的人类判断

Soloharness 判断

复杂业务不该追求一步到位全自动。能把人的判断放进正确节点,往往比盲目提高自主性更容易成交、更容易交付。

协作式 AI增强智能 (Augmented Intelligence)交互式 Agent