SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

预训练和微调:一个建地基,一个装修房间

预训练和微调是模型训练流程上相邻的两个阶段,常被合并表述为“训练”。预训练在海量通用数据上建立基础能力,微调在特定任务数据上调整行为。混淆会导致选错基座、估错预算、看不准能力瓶颈到底在哪个阶段。

寓言

音乐学院的地基训练和演出排练

一所音乐学院的培养体系分两大段。前三年,所有学生上同样的课:视唱练耳、乐理、音乐史、基本的钢琴和声乐技能。不论以后想当独奏家、伴奏还是指挥,这段时间都在练同样的地基。毕业后回头看,这三年里没人知道自己最后会专攻什么,但基础不扎实的人后面任何方向都走不远。

第四年开始分方向。学生根据自己的志向和条件选择主修,进入专门的排练季。独奏方向的学生每天和协奏曲死磕,室内乐方向的学生大量磨合重奏配合,作曲方向的开始写自己的作品找乐团试奏。排练季的训练方式和内容跟地基阶段完全不同:不是广撒网,是针对一个明确目标反复打磨。

学院曾经试过一种改革:让新生第一年就同时上地基课和排练课。教务处的想法是“早点接触实战,学得更快”。结果练习曲还弹不下来的学生硬上协奏曲、和弦都没搞懂的人被逼着写作品。一学期下来,地基课大面积不及格,排练课的成果也没法听。

学院紧急叫停,把课程顺序定了死规矩:前三年的地基考试没通过,不许进排练课。这不是刁难,是排练课的前提假设就是地基已经在了——指挥不会在排练中停下来教你怎么数拍子。

后来有一位客座教授来学院做分享,讲课时在黑板上画了一条粗线左边写“通用”,右边写“专用”。左边的投入按年算、成本高、产出是通用能力;右边的投入按周算、成本可控、产出是专项表现。两笔预算分开做,两套评估标准分开设。

学院把这条线写进教学评估体系。地基阶段的考核只看基本功覆盖面和扎实程度,不看专项表现。排练阶段的考核只看目标曲目的完成度和艺术质量,不回头检查基本功。两个阶段各设各的标准,杜绝了用排练表现给地基打分、或者用地基标准卡排练结果的混乱。

就业数据在改革两年后出现一个有意思的变化:从地基阶段就分流的学生,转方向时适应期更短。原因是地基没被压缩,他们带着完整的通用能力进入新方向,只需要补排练。而那些地基被跳过或赶工的学生,转方向等于从头来过。

预训练

在海量通用数据上训练模型建立基础语言能力和世界知识,是全集、高成本、一次性的地基建设阶段。

微调

在预训练模型基础上用特定任务数据调整模型行为,成本相对可控,可针对不同场景多次执行。

故事对应

  • 前三年同样的地基课:预训练,在海量通用数据上建立基础能力
  • 第四年方向排练季:微调,在特定任务数据上调整行为
  • 第一年同时上地基和排练导致大面积失败:跳过预训练直接做任务微调不可行
  • 地基考试没通过不许进排练课:预训练质量是微调效果的前提条件
  • 转方向时地基完整的人适应更快:扎实的预训练让模型在不同微调方向间迁移更高效

落到 Agent 项目里

做模型选型时先区分两类需求:需要补充通用知识和基础能力的,考虑预训练或选择最新的预训练基座;只需要调整行为、风格、输出格式的,用微调。预算规划上,预训练的投入按基座模型级别估算,微调按任务数据量和迭代次数估算,别拿微调的预算去期待预训练的效果。