← 返回概念解读

Concept Fable

自主性级别

Autonomy Levels · 治理

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

从学徒到夜班掌柜

木匠铺来了三个学徒。第一天,师傅让小林只负责递工具。师傅说要刨子,他递刨子;师傅说停,他马上停。活是他做了一点,但决定都在师傅手里。

一个月后,小林能按图纸打磨椅腿。师傅不再盯每一刀,只在关键尺寸处检查。小林可以自己决定先磨哪一面,但不能改图纸,也不能把椅子交给客人。

半年后,师傅让他独立修普通桌椅。小林可以接单、估时、选木料、完工后登记,只要遇到昂贵木材、奇怪要求或可能赔钱的订单,必须叫师傅。

另一个学徒小周走得太急。他刚会刨木头,就私自接了整套柜子,结果尺寸错了还答应免费重做。师傅这才发现,问题不在于学徒聪不聪明,而在于他被允许在哪些节点自己决定。

后来木匠铺把墙上挂了四张牌:只建议、按步骤执行、低风险自主、高风险需批准、全流程负责。每个学徒接活前先看自己在哪一级。级别越高,不是越少干活,而是越少被人逐步指挥,承担的判断和后果也越多。

师傅还给每一级配了护栏。只建议的学徒不能碰客户承诺,低风险自主的学徒只能处理固定价目,夜班掌柜虽然能独立收单,也要在大额赔付前敲醒师傅。

木匠铺因此少了两种错:把能干的人拴得太死,和把没准备好的人放得太远。自主性不是一句“放心去做”,而是一组清楚的权限、边界和接管点。

后来管事把这次经验写进日常规矩:先看场景,再看边界,最后看失败时谁能接手。只有这些都清楚,漂亮演示才会变成可交付的工作。复查时,他们还会拿旧事故对照一遍,确认新规矩不是只在纸上好看,而能在忙乱现场真正挡住同样的错误。

揭示

这个故事讲的是:自主性级别

它描述一个 Agent 在任务中拥有多少决策权、行动权和例外处理权,以及人类需要在多频繁、多关键的位置介入。

低自主性系统只给建议或按固定步骤执行;高自主性系统能拆任务、选工具、调用系统、处理异常,甚至主动推进目标。分级的关键不是“AI 有多聪明”,而是“哪些决定可以交给它,哪些必须留给人”。

隐喻映射

  • 递工具的学徒:只响应指令的辅助系统
  • 按图纸打磨:可执行固定流程但不能改目标
  • 普通订单独立处理:低风险场景下的有限自主
  • 贵木材和赔钱订单叫师傅:高风险节点的人类介入
  • 墙上的四张牌:用权限、风险和人工介入频率划分自主等级

Soloharness 判断

讨论 Agent 自主性时,不能只问“能不能自动化”。真正要设计的是授权边界:什么任务可自动完成,什么动作要审批,什么失败必须升级给人。

自主性分级控制权转移自动化等级SAE 分级(类比自动驾驶)

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。