← 返回概念解读

Concept Fable精修版

束搜索

Beam Search · Decoding

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

评审桌上同时摊开的五条路线

西岭商队要把瓷器送到边城。山路有三条:北道近但常有落石,中道平却绕远,南道要过渡口。新领队性子急,每到岔路只选眼前看起来最快的一条。

头几趟他省了半日。后来一场雨后,他仍走北道,结果前方塌方,整队折返,瓷器还碎了两箱。老向导说,山路不能只看当下最顺的一步,前面几段连起来才是路。领队第一次总结为“北道不能走”,于是下一趟死守中道。偏偏那天中道桥坏,南道才是好路。他发现问题不在某条路,而在每步只留一个选择。

领队改成把所有可能路线都算到底。纸上密密麻麻列出几十条,账房等到日落还没拿到决定。货主急了:高价值瓷器值得多想,普通麻布不能被同样拖住。

老向导给他一根木尺:每到岔口,保留几条当前最有希望的路,其余先放下;走到下一站,再按新情况重新比较。保留太少,会早早错过好路;保留太多,商队迟迟不动。木尺刚用时,领队保留了六条路,账房又被拖慢。老向导让他按货物价值、天气变化和误判代价来定宽窄。

一次运药材,他们保留三条候选。北道虽近但雨云压山,中道略慢却稳定,南道渡口传来排队消息。走到第二站,北道落石,南道通畅,他们及时改选南道,既没盲冲,也没把所有小路算到天黑。那次运药材让领队看到,候选路不是摆设。真正前进时,消息会变,保留几条好路,才有资格在新消息出现后改判断。

账房后来按货值定尺:普通货只留一两条,贵重货多留几条,遇灾年再加宽。商队明白,稳妥不等于无限犹豫,而是在每一步保留足够多的好候选,让未来还有改路的余地。

揭示

这个故事讲的是:束搜索

Beam Search 是生成时同时保留多个高概率候选序列的解码策略。它比贪心解码更不容易被单步最高概率带偏,但会增加计算成本,也可能生成过于保守、模式化的文本。在企业 Agent 中,它适合需要稳定、可控、格式较严的输出场景,例如合同摘要、结构化报告或计划草案;对开放创意任务则未必合适。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 最短路图:每步只选最高概率 token 的简单解码
  • 多条候选路线:beam 中并行保留的候选序列
  • 累计成本和风险排序:按序列总分选择输出
  • 候选上限:beam width,决定质量与成本权衡
  • 高价值合同才开评审:把 Beam Search 用在需要稳定性的企业生成任务

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

decodingsequence generationbeam widthgreedy decoding