SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

轨迹评估和步骤成功率

步骤成功率看的是每一步做对了没有——每一步独立打分,九步对八步就是百分之八十九。轨迹评估看的是全程的走向——九步全对但最后一步跳进了死胡同,整条轨迹是失败的。Agent 评估里只报步骤成功率是一个常见错觉:每一步都走对了,但走到最后客户的问题没解决。

寓言

查路标和看终点

导航软件的质量团队分了两组。甲组负责「逐段检查」:把一条导航路线切成二十段,每一段检查导航有没有在正确的路口提醒转弯。乙组负责「全程跟踪」:找一百个司机开着导航跑完全程,看他们到底有没有到达目的地。

第一个月的数据出来,甲组报上来的正确率是百分之九十七——大多数路口导航都提醒对了。产品经理很高兴,准备发新闻稿。乙组的数据晚了两天才出:百分之二十一的司机没有到达目的地。有人在正确的高速出口被导下了匝道又导上来,绕了一圈。有人在乡间土路上被导进了断头路。

产品经理把两端数据放在一起看,发现问题出在「正确」的定义上。甲组的正确是「该提醒路口时提醒了」——只看每步操作对不对。乙组的正确是「按导航走到地方了」——看全局结果。二十个路口全提醒对了,不代表二十个路口连起来能到终点。

导航团队调了所有失败案例的轨迹回放。有一个典型案例:司机在高速上导航每隔两公里提醒一次「保持直行」,步数准确率百分之百。但最后一个出口处,导航漏了一次提醒,司机错过了出口,多绕了四十公里。甲组的算法把这个案例算成百分之九十五正确率——十九步全对,一步错。乙组把它算成失败。

团队重新设计了评估框架。逐段检查不丢——它能定位到具体哪个路口出了错。但整体得分标准改了:只要终点没到,整条轨迹算失败。然后看失败案例里哪几步错了,针对性修改。改完再看失败率降没降。

改动之后,团队发现了一个之前藏得很好的问题:有些步骤单独看完全正确,但连在一起会让司机走一个奇怪的之字形。甲组的检查永远看不出这个问题——因为每一步在它的评价标准里都是对的。乙组的全程跟踪让这种组合型错误暴露了出来。

测试负责人写了一份总结:拆开看是找哪里坏了,合起来看是判断这件事成没成。你可以在拆开后找到所有坏掉的零件,修好它们,再合起来看还是坏的——因为坏的不是零件,是零件之间的配合。

产品总监把这份总结带到了行业大会,最后一张幻灯片上写了一句:你的 Agent 每一步都做对了,客户的问题还是没解决。这句话到底是在夸你的步骤设计,还是在说你的全局目标设定有问题——取决于你看的是步骤打分还是最终结果。

轨迹评估

以整条执行轨迹为单位评估 Agent 表现的方法,关注最终任务是否完成、路径是否合理、是否有无效循环。它衡量的是「全程走下来结果对不对」。

步骤成功率

以单步操作为单位统计正确率的评估方法,关注每一步操作是否按预期执行。它衡量的是「每一步单独看对不对」,不关注步骤之间的组合效应。

故事对应

  • 甲组逐段检查路口提醒:步骤成功率——单步独立评分。
  • 乙组跟车看是否到达目的地:轨迹评估——全局任务完成度。
  • 十九步正确一步错导致绕路:高步骤成功率掩盖了关键步骤的致命错误。
  • 单独走对的步骤连成之字形:组合型错误只有轨迹评估才能暴露。
  • 拆开定位、合起来判断:两种评估方法的互补关系。

落到项目里

Agent 评估至少同时看两层。步骤层:工具选择正确率、参数填充准确率、输出格式合规率,用于定位具体故障点。轨迹层:任务完成率、无效循环次数、到达目标所需步数,用于判断整体质量。两层数据交叉分析时注意一种危险信号:步骤准确率高但轨迹完成率低。这说明 Agent 在正确的路上走到了错误的方向——单步逻辑没问题,全局调度有缺陷。