SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

表面加一层和每层都动一点

提示微调在输入层加可训练向量,前缀微调在 Transformer 每一层都加可训练前缀。两种都是参数高效的微调方法,但修改的深度和影响范围完全不同。选型时容易只看参数量而忽略作用于哪一层。

寓言

两个石匠修佛像,一个贴金箔,一个调骨架

山里有座古寺,大殿里供着一尊石佛像。年代久了,佛像有些褪色,信众觉得不够庄严。方丈请来两个石匠修缮。老周带了金箔和颜料,在佛像表面贴了一层新金身,手法利落,三天完工。老吴不说话,掏出刻刀,从佛像的底座开始,每层石纹都重新打磨、上色、加固,干了整整一个月。

完工后,两尊佛像并排摆在偏殿。信众来看,都说老周修的那尊好看——金箔在香火里反光,远看气势恢宏。老吴修的那尊看起来变化不大,只是色调暗了一些。方丈点头不评论。

入了秋,山里连着下了半个月的雨。偏殿的屋顶开始漏雨,雨滴直接打在佛像上。老周的金箔先是起泡,然后成片脱落,露出了底下灰扑扑的旧石面。信众说佛像又旧回去了,甚至比之前还难看。老吴修的那尊还是原来的样子,水珠顺着石纹滑下,颜色没变。

方丈这时候才说明:老周做的是表面工,金箔只贴在最外面一层,好看但怕水,底下的石质一点没变。老吴做的是每层入色,从底座到头顶,每一层石料都吸收了颜料和加固剂,颜色长进了石头里。表面好看和通体耐候,不能同时要最快和最省。

第二年,方丈又碰到新情况。朝廷派来的礼官要求调整佛像的手印和面孔——不需要全尊重做,只需要换几个关键细节。老周的方法用不上了,他的金箔一贴就覆盖整尊。老吴的方法也不行,他的手艺需要从头做到尾,只改几个层会破坏整体一致性。方丈只好找来第三个工匠,那人说:我只在最需要变化的几层做局部调整,不去动底座和衣纹。

后来寺里的石碑上刻了一行字:贴皮、入骨、选层,三种活三种价,不能把贴皮当成入骨,也不能把入骨说成选层。

方丈在自己的笔记里补了一笔:只加在输入层像贴金箔——快、省、漂亮但覆盖不深;每一层都加前缀像老吴的入骨——慢、重但改变通体;如果是老周和老吴之间走中间路线,那是第三种东西,得另外谈价钱。

提示微调

在输入层追加可训练的嵌入向量作为软提示,核心模型参数冻结。只影响输入层,参数量极小,适合快速适配但表达能力受限。

前缀微调

在 Transformer 的每一层都插入可训练的前缀向量,影响所有层的注意力计算。参数量比提示微调大,但能更深层次地影响模型行为。

故事对应

  • 贴金箔的老周:提示微调,只在输入层加可训练向量,快但作用浅
  • 入骨打磨的老吴:前缀微调,在每一层都插入前缀向量,改变通体行为
  • 金箔遇雨脱落:输入层的方法对底层行为没有控制力
  • 入骨颜色不怕雨:每层都加前缀对所有层都有调控能力
  • 只改几个层:实际工程中还有介于两者之间的方案,需要单独评估
  • 石碑刻字:贴皮、入骨、选层是三种不同的微调策略

落到 PEFT 方法选型

任务只需要调整输出风格或语气时,提示微调足够——参数量最小、训练最快,适合快速实验。任务需要深度改变模型的知识和推理方式时,前缀微调更合适——虽然参数量更大,但能影响模型各层的注意力模式。如果供应商说用了参数高效微调,但没有说明是在哪一层加的向量,问清楚再评估。