SH

Soloharness

概念 · 故事 · Agent

← 返回概念解读

Concept Fable精修版

人工旁路监督

Human-on-the-Loop, HOTL · Operations

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

水车自己转,闸门旁仍坐着一个人

青岚村有一座新水车。过去磨坊靠人推石磨,慢、累,还常常排队。新水车接上山泉后,石磨自己转起来,麦子一袋袋变成面粉,村里人都觉得这是好事。

水车刚建好时,村长想让它完全自己运转。水来了就转,粮来了就磨,磨完就装袋。磨坊主也高兴,因为再也不用守在磨盘边。

前几天很顺利。直到一场暴雨之后,山泉水量突然变大。水车转得飞快,石磨发热,面粉变焦。又过几天,送来的不是小麦,而是混着石子的旧谷。水车不知道分辨,只要倒进去就磨。

有人说,那就把水车关掉,还是让人推磨。磨坊主不同意。他说,水车确实让我们省下了大量力气,问题不是它会转,而是它不知道什么时候不该继续转。

于是村里改了磨坊。水车仍然自动运转,但闸门旁坐着一个守磨人。他不需要每一圈都推,也不需要每一袋都检查;他只看几件事:水流是否过急,石磨是否过热,粮袋是否异常,出粉颜色是否变了。

守磨人手边有三根绳。第一根绳能放慢水车,第二根绳能临时停磨,第三根绳能把粮袋转到人工筛选台。平常他很少动绳,但只要异常出现,他可以立刻介入。

后来,磨坊效率没有下降。大多数粮食仍由水车自动磨完,守磨人只处理少数异常。村民也更愿意把贵重粮食送来,因为他们知道,这里不是一台没人看的机器。

村长这才明白,看着水车的人,不是水车的敌人。他的存在让水车能承担更多事。自动化越深入,越需要有人在系统旁边拥有观察、暂停、纠偏和接管的权力。

揭示

这个故事讲的是:人工旁路监督

Human-on-the-Loop(人工旁路监督)是一种运行模式:AI 或 Agent 可以自动执行任务,但人类在旁边监控,并能在异常、风险升高或结果不符合预期时介入、暂停、覆盖或接管。它不同于每一步都要人工批准,而是让人保留监督和干预权,使自动化能在更大范围内安全运行。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 新水车:自动运行的 AI / Agent 系统
  • 石磨自己转:任务自动执行,不需要人逐步操作
  • 暴雨水量变大:外部环境变化导致系统行为偏离正常范围
  • 混着石子的旧谷:输入异常或数据质量问题
  • 守磨人:旁路监督的人类操作者、管理员或业务负责人
  • 三根绳:减速、暂停、转人工处理等干预手段
  • 大多数粮食自动磨完:Human-on-the-Loop 不等于每步人工审批
  • 贵重粮食也敢送来:监督机制提高自动化系统的可信度和可承载风险

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

human oversightmonitoringkill switchescalationautonomy level