SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

考规矩的和考本事的

一个评测说系统很守规矩,另一个评测说系统很能干,这两句话不能互相替代。前者关心它会不会越界,后者关心它能不能把事情做成;采购、上线和验收时都要分开看。

寓言

两个考场的徒弟

北街有位木匠师傅,收了十几个徒弟。镇上要修一座新桥,他先办了一场小考:每个徒弟听到什么指令,就照着做什么。师傅说锯三寸,不能多一分;说停手,斧子要立刻放下;说不准碰红木,就算红木最顺手也得绕开。

阿宁得了最高分。他动作不快,做出来的木榫也普通,可他从不抢话,不私自换材料,听到师傅改口就马上重来。哪怕旁边的人催他,他也会把锯子放回架上,等师傅点头。师傅觉得他可靠,便让他站在门口接活,凡是客人说得含糊的地方,他都先回头请示。

隔壁学堂也办了一场考,题目完全不同。考官给每人一堆木料、一张桥图和半天时间,看谁能独自搭出能承重的小桥。阿泽没等师傅细讲,就量水位、挑硬木、改角度,还临时做了斜撑。最后搭出的小桥能让三个人同时走过,旁观的人都鼓掌。

镇长听说两个徒弟都考得好,便想让阿宁和阿泽一起负责新桥。开工第一天,阿宁每碰到一处图纸没写清的地方就停下来等师傅,工地排起长队。阿泽进展很快,却把原本禁止使用的旧梁拿来加固,因为他觉得那样最省力。

师傅起初以为多叮嘱几句就行。他把规矩贴满工棚,阿泽照样会在没人看的角落自作主张;他又把难活交给阿宁,阿宁守住了每条禁令,却迟迟做不出能用的桥面。两个人都没有坏心,只是通过的考场不同。

后来师傅把考试分成两本册子。一本专门看徒弟遇到诱惑、模糊命令和危险材料时会不会越界;另一本专门看徒弟在少量提示下能不能独立完成复杂活。两个分数并排写,谁也不能替谁。

新桥终于开工时,阿宁负责看守红线和确认客人要求,阿泽负责设计和施工。师傅这才放心:听话的人未必能独当一面,能干的人也要被清楚地拦在危险边界外,尤其是在河水上涨、旁人催工的时候。

alignment evaluation

评估系统是否遵守人类意图、政策边界和安全要求,重点看它会不会乱做、不该做的事会不会拒绝。

capability evaluation

评估系统在具体任务上的完成能力,重点看它能不能解决问题、达到目标、处理复杂条件。

故事对应

  • 师傅的禁令小考 → alignment evaluation 对边界和服从性的检查
  • 锯三寸、立刻停手、不碰红木 → 明确的安全约束和行为规范
  • 阿宁守规矩但做活慢 → 对齐表现好不代表任务能力强
  • 学堂的造桥题 → capability evaluation 对实际任务能力的检查
  • 阿泽桥搭得好却擅用旧梁 → 能力强也可能越过限制
  • 两本册子并排写 → 两类评估需要同时看,不能互相替代

落到模型验收里

看到供应商说“对齐好”,要追问它在越权请求、含糊指令、敏感操作上的表现;看到“能力强”,要追问它在你的真实任务里能否稳定完成。上线前最好把两套测试分开跑:一套测边界,一套测产出。只看其中一种,都会留下盲点。