← 返回概念解读

Concept Fable精修版

Logits

Logits · Decoding

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

铜秤还没换成价格牌之前

药材铺有一只候选盘。每当学徒要配方,老师傅先把可能用到的药味放进盘里,并在每味药旁放一枚高低不等的小石。石头越高,表示此刻越偏向选它。盘里的小石每天都在变。客人症状不同,季节不同,药味旁的高低也不同;学徒若只背昨日最高,今日就可能抓错。

新学徒看见石头,便以为最高那味一定会入方。师傅摇头:石头还不是最终抽签份额,只是原始倾向。有些药差距很大,换成签后几乎必选;有些药只差一点,换算后仍有多种可能。

掌柜为了稳妥,曾规定每次只取最高药味。普通小病还行,复杂症状就显得死板。后来他又让学徒在所有药里随便抽,结果把很低的小石也抽进方子,险些出错。随便抽那次尤其吓人。一味几乎不该进方的烈药被抽中,老师傅及时拦下,才没有让客人吃亏。

老师傅教他们先把小石换成可抽的份额,再按场景加规矩:急症可以偏向最高,需多样试方时可以让次高药也有机会;若只保留前几味候选,盘外药就不得再进。换成份额的办法也会改变性子。份额压得太尖,几乎每次都取最高;放得太平,低倾向药也常冒出来。

一次复盘,客人问为何没选某味药。师傅没有只看最后抽签,而是翻出当时的小石高度:那味药原本倾向很低,是后面的抽签规矩让它彻底出局。

掌柜后来问方子为何变化,学徒会同时拿出两样东西:当时的小石高度,以及后来如何换成抽签份额。只看最后拿到哪味药,看不见选择前的倾向。

学徒终于明白,候选盘上最初的高低不是答案,却决定了答案从哪里来。要解释一次选择,既要看原始倾向,也要看它如何被换算、筛掉或抽中。

揭示

这个故事讲的是:Logits

Logits 是模型在 softmax 转成概率之前输出的原始分数。解码参数、约束、禁用词、温度缩放和采样策略都作用在 logits 或其转换后的分布上。理解 logits 有助于解释为什么模型偏向某些 token,也能支持企业场景中的敏感词抑制、格式约束、置信度分析和生成调试。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 铜秤原始重量差:模型输出的 logits
  • 处方规则和禁忌:业务约束与安全过滤
  • 换成概率:softmax 等分布转换
  • 误把原始分数当最终选择:混淆 logits 与输出概率/答案
  • 诊断词频异常:通过 logits 分析生成行为

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

softmaxtoken probabilitydecodingtemperature