SH

Soloharness

概念 · 故事 · Agent

← 返回概念解读

Concept Fable精修版

人在回路

Human-in-the-Loop · Control pattern

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

那道必须等老师落笔的考卷

松果学院有一台很快的改卷机。选择题、填空题、算术题,它几乎一眨眼就能判完。过去老师们要熬到深夜,现在学生交卷后,很快就能看到分数。

最初,学院想让改卷机处理所有试卷。机器不累,也不会偏心,看起来比人更稳定。可到了作文课,问题出现了。一个学生写得很大胆,观点新颖但结构松散;另一个学生写得工整,却几乎没有自己的判断。改卷机只能按格式、字数和常见表达打分,结果把第二篇评得更高。

学生不服,老师也沉默。机器没有坏,它只是没有真正理解这次考试想考什么。作文不是只看格式,还要看判断、证据、风险、表达和成长。

院长没有把改卷机扔掉。他把试卷分成三类:第一类,标准答案明确的题,机器直接批;第二类,机器能给初评,但必须让老师复核;第三类,涉及价值判断、学生处分、升学推荐和奖学金的试卷,机器只能整理材料,最后必须等老师落笔。

改卷机的角色因此变了。它不再假装自己能决定一切,而是把该算的分算清楚,把可疑的答案标出来,把相似案例翻出来,把评分理由列给老师。老师也不用从空白开始,而是在机器准备好的材料上做判断。

有一次,一个学生的答案看似抄袭,因为和旧卷高度相似。机器把它标红,按旧规则可能直接扣分。但老师看完过程记录,发现这个学生引用的是课堂公开材料,并在最后提出了新的反驳。机器负责发现风险,老师负责判断语境。

期末结束后,学院的批卷速度没有回到从前,质量却更稳了。因为机器处理了大量确定性工作,人被放在那些必须有人承担判断、责任和例外解释的位置。

松果学院后来把这条规则写进墙上:不是所有题都需要老师亲手批,但有些笔,必须由人落下。

揭示

这个故事讲的是:人在回路

Human-in-the-Loop(人在回路)是在 AI 或 Agent 流程的关键节点嵌入人工审核、判断、修正、批准或接管。它不是让人旁观系统,而是把人作为流程的一部分,尤其用于高风险、模糊判断、合规要求、不可逆动作或需要责任归属的场景。它让自动化保留效率,同时把关键决策权放在人类手里。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 改卷机:AI / Agent 系统,擅长快速处理大量标准化任务
  • 选择题和算术题:规则明确、风险较低、适合自动化的任务
  • 作文题:需要语境、判断和责任承担的复杂任务
  • 机器把工整作文评高:模型可能优化表面指标,却错过真实目标
  • 三类试卷:按风险和判断复杂度分层设计自动化流程
  • 老师复核和落笔:人在流程关键节点做审核、批准或最终决策
  • 机器整理材料:AI 做准备工作,人做高价值判断
  • 不是所有题都需要老师亲手批:HITL 的目标不是取消自动化,而是把人放在必须有人负责的位置

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

guardrailshandoffescalationapproval workfloworchestration