← 返回概念解读

Concept Fable精修版

全量微调

Full Fine-Tuning · Fine-tuning

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

整座钟楼都被重新校准

老琴坊有一架通用大琴,宫廷、酒楼、书院都能弹。某戏班想让它完全适应自家唱腔,琴师起初只换了几根弦,效果有限。戏班最初嫌大琴“不够像自己”,却说不清要改哪里。琴师只在外面加饰件,观众听见的仍是原来的底色。

班主说,若要每个转音、每段共鸣都贴合新戏,就不能只在外面加小件。琴师必须拆开整架琴,重新调每根弦、每块音板和每个榫卯。拆琴前,老琴师让班主签下风险:这不是换一根弦,而是让整架琴重新学习发声。每处改动都会牵动其他共鸣。

这工程很贵,也有风险。调得好,大琴会深深染上戏班风格;调坏了,原本会弹的旧曲也可能走样。每次改动都要试整场戏,而不是只听一两个音。第一次重调太猛,几首旧曲全失了味。琴师只好一边试新戏,一边检查旧曲还能否接受,防止专用风格吞掉基本能力。

琴师花数月重调,终于让大琴贴住新唱腔。可它也不再像过去那样轻易服务所有场合。班主明白,彻底改造带来深度适配,也带来成本、时间和遗忘风险。

班主也比较过另一种办法:外挂一只小共鸣盒。它便宜、可拆,适合轻微改味;可这出新戏的唱腔牵动整架琴,小盒子补不到深处。

改造完成后,琴坊把大琴单独编号保存。它适合这家戏班,不再随便租给书院。全身重调带来的不是普通升级,而是一种带边界的专门化。

班主后来又接一出临时小戏,只让琴师外挂小件,没有再拆琴。经历过全身重调后,他反而更谨慎:深度适配很有力,也很昂贵;只有当任务足够专门、回报足够大,才值得动到全部结构。

有些任务只需外接小件,有些任务要求全身重调。选择全身重调前,必须确认这份专用价值值得动到每一处内部结构。

揭示

这个故事讲的是:全量微调

Full Fine-Tuning 是更新模型全部或大部分参数的微调方式。它比 LoRA、Adapter、Prefix Tuning 等 PEFT 方法更重,可能带来更深层的领域适配和行为改变,但成本、显存需求、灾难性遗忘、回滚难度和治理风险也更高。企业通常只有在任务差异很大、数据质量足够、评测体系成熟且部署收益明确时,才考虑全量微调。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 整座大钟:基础模型全部参数
  • 贴说明:prompt 层面的适配
  • 小齿片:PEFT / adapter 类方法
  • 全楼校准:Full Fine-Tuning
  • 旧钟备份:基线模型和回滚方案
  • 固定测试清单:微调后的回归评测
  • 最后洞察:Full Fine-Tuning 能深度改变模型行为,但必须用更高的成本和治理能力交换

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

SFTPEFTfull-parameter tuningcatastrophic forgetting