SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

一套题和一场考试

供应商说「我们在某某 benchmark 上表现很好」,这句话到底在说什么?当有人说「我们做了 evaluation」,又在做什么?这两个词听起来很像,核心区别却关系到钱花得值不值。

寓言

武馆的两种考法

青山镇上有一家老武馆,历来收徒弟要先过三场统一比试。第一场扎马步,谁扎得久谁赢;第二场打木人,谁打断的木桩多谁赢;第三场比兵器,评委只看谁把稻草人砍得最碎。三场下来总分最高的就是掌门候选人。周边几个武馆觉得这个办法公平,每年都来比划比划,输赢一目了然。

有一天,师父发现一个问题:比试拿第一的徒弟,往往出去办事并不行。有个叫阿成的,马步扎得最久,兵器也耍得最漂亮,可让他去县城送封信,他居然迷了路。另一个叫阿文的,木人只打断了半根,但走街串巷特别机灵,师父交代的事从没耽误过。

师父开始怀疑这三场比试到底有没有用。有人给他出主意:「那就加一场真的,送封信去县城,谁先回来谁赢。」一试之下果然有效,阿文拿了第一。可问题是,每次想看徒弟的真实本事,都得真的派出去办事,不可能天天让人满街跑。

后来师父想了个折中办法:设计一套模拟场景,在武馆里搭个假县城,有客栈、有集市、有衙门口,让徒弟在里面走一遍。这下方便多了,随时都能考。但师父很快又发现问题了:有些徒弟在假县城里走得飞快,到了真县城还是找不到北。

两种考法各有各的道理。统一比试好处是公平、好比、好存档,但考的是「标准动作」不是「真干活」。模拟场景更接近实战,但终究是假的。派出去真办事最准,可成本太高,不可能天天搞。

这时候来了个年轻人,说他有一套新办法:不给徒弟设统一题目,而是让每个徒弟自己想一个最擅长的任务,做完了师父来评价。有人说我想练拳,有人说我想学暗器,有人说我能三天不睡觉。师父一看,这哪是考试,根本就是让徒弟自己给自己出题。

但仔细看下去,师父发现这种考法有个好处:能看到每个人真正擅长的东西,而不是他会不会那三套标准动作。只是评价起来主观性很强,两个徒弟之间很难说谁更强。

故事讲完了。统一比试就是 benchmark,大家做同一套题,分数可以直接比较;自己给自己出题、自己评价效果,就是 evaluation。两者不是谁好谁坏,而是「比排名」还是「看效果」的区别。

评测基准

在固定任务上用统一标准比较不同模型的性能表现,分数可以直接对比

evaluation (evals)

根据具体业务目标设计任务,评估模型在实际场景中的真实效果

故事对应

  • 三场统一比试 → benchmark 的标准化测试
  • 马步、木人、兵器 → benchmark 的具体题目
  • 分数排名 → 不同模型的可比指标
  • 派徒弟真办事 → 真实业务场景的 evaluation
  • 假县城模拟 → 贴近实战的评估任务
  • 徒弟自己出题自己考 → evaluation 的自定义任务设计
  • 师父主观评价 → evaluation 中的人类评估或业务指标

落到项目里

如果有人告诉你「我们在这个 benchmark 上领先」,先问自己:这个 benchmark 考的是不是我关心的那件事。刷榜常用的题目可能跟你的业务场景毫无关系,这时候 benchmark 分数再高也不值得花钱。相反,如果你的场景确实有公认的标准测试,拿来比较模型是合理的做法。但最终判断模型能不能用,一定要做自己的 evaluation——用你真实的数据、真实的任务、真实的评价标准,跑一遍看看效果。