SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

提示微调和微调:一个教模型看暗号,一个给模型换脑子

两个词都带“微调”,但改的东西完全不在一个层面。提示微调是在输入层训练一组软提示向量,模型本身的参数一个不动;微调是更新模型内部的部分或全部权重参数。提示微调改的是“给模型递什么信号”,微调改的是“模型接到信号后怎么处理”。成本差几十倍,适用场景也完全不同。

寓言

指挥家和作曲家,两种不同的改变方式

一个交响乐团同时承接了两类任务。第一类是给新曲目配演出方案:指挥拿到一首主办方指定的新曲子,需要在排练中找到最合适的指挥手势——哪个声部在哪个小节起拍、渐强的幅度做多大、收束的信号给多长。乐团成员一个不变,变的是指挥传递指令的方式。

第二类任务是改编:主办方觉得原有曲目的铜管部分太尖锐,要求把整首曲子的编配重新写一遍。作曲家没有继续调整指挥手势,而是直接重写乐谱:把铜管的旋律线分配给弦乐,调整和声结构,甚至删掉一部分段落重新创作。这次变的是曲子本身。

两类任务在管理层的排期表上都被写成“演出调整”,但乐团的投入完全不同。指挥改手势只需要三次排练,乐队正常到场就行,预算几万块。作曲家改编配需要重新分谱、重新录制 demo、重新校对几十页乐谱,周期按周算,预算翻十几倍。

有一次主办方把两类任务搞混了。他们想要的效果是曲子听起来“更柔和”,但提的需求是“改一下演出方式”。指挥花了两次排练调整手势——让弦乐更突出、压制铜管的进入时机。听起来确实柔和了一些,但铜管的尖锐音色本身没变,换个指挥可能又回去了。

乐团经理后来定了规矩:如果只需要同一首曲子在特定场合的表现效果变化,找指挥调手势就行。如果需要这首曲子在任何场合、任何指挥手下都听起来不同,那就得找作曲家改谱子。两个方向成本差别巨大,不能在排期表上写同一个工单名。

乐团后来把这套判断写进排练室墙上的流程图:如果原曲本身合适,只是这场演出要换气口、换力度、换入场节奏,就让指挥调整手势。如果原曲写法已经不适合目标场合,哪怕换十个指挥也只能稍微遮掩,就请作曲家重写乐谱。

流程图最下面还有一行红字:先听问题在指挥台,还是在五线谱。前者改得快、成本轻、可随场次切换;后者改得深、周期长、会留下新的版本。把两种工单混着派,轻则多花排练费,重则让整场演出带着错误的谱子上台。

提示微调

在模型输入层训练一组可学习的软提示向量,引导模型在特定任务上表现更好,模型本身的所有参数保持不变。

微调

在预训练模型的基础上,用特定任务数据更新模型的部分或全部权重参数,使模型获取新的知识或调整行为模式。

故事对应

  • 指挥调整手势让同一首曲子更柔和:提示微调,改输入引导方式而不动模型参数
  • 作曲家重写乐谱改变曲子本身:微调,更新模型权重参数
  • 主办方把两类任务混为一谈:排程表上写同一个工单名导致错误分配资源
  • 想柔和找指挥、想换曲子找作曲家:先判断缺的是引导还是缺的是知识
  • 成本差十几倍,适用场景完全不同:提示微调不能替代微调,微调也不该浪费在只需引导的场景

落到模型适配方案里

接到客户适配需求时,先填一张判断表:模型在这个领域的知识本身够不够?如果够,只是需要更好的提问方式,用提示微调。如果模型在这个领域缺乏相关知识或风格完全不对,走微调。提示微调训练成本低、部署灵活但不能增加新知识;微调能改变模型能力但周期和 GPU 投入大。在采购清单上明确区分这两行,避免花微调的钱做提示微调的事。