← 概念辨析に戻る

Concept Contrast Fable

プロンプト微調整とファインチューニング:一方はモデルに合図の見方を教え、一方はモデルの頭脳を入れ替える

先に結論:どちらの言葉にも「微調整」が含まれますが、変えるものは全く別の層にあります。プロンプト微調整は入力層で一組のソフトプロンプトベクトルを訓練し、モデル自体のパラメータは一つも動かしません;微調整はモデル内部の一部または全部の重みパラメータを更新します。プロンプト微調整が変えるのは「モデルにどんな信号を渡すか」であり、微調整が変えるのは「モデルが信号を受け取った後にどう処理するか」です。コストは数十倍異なり、適用場面も全く異なります。

どちらの言葉にも「微調整」が含まれますが、変えるものは全く別の層にあります。プロンプト微調整は入力層で一組のソフトプロンプトベクトルを訓練し、モデル自体のパラメータは一つも動かしません;微調整はモデル内部の一部または全部の重みパラメータを更新します。プロンプト微調整が変えるのは「モデルにどんな信号を渡すか」であり、微調整が変えるのは「モデルが信号を受け取った後にどう処理するか」です。コストは数十倍異なり、適用場面も全く異なります。

寓話

指揮者と作曲家、二つの異なる変え方

ある交響楽団が同時に二種類の任務を引き受けた。第一類は新曲に演奏方案を付けること。指揮者は主催者が指定した新曲を受け取り、リハーサルの中で最も適した指揮の身振りを見つける必要がある——どの声部がどの小節で拍を取るか、クレッシェンドの幅度をどれだけにするか、収束の合図をどれだけ長く出すか。楽団員は一人も変わらず、変わるのは指揮者が指示を伝える方式である。

第二類の任務は編曲である。主催者は既存曲の金管部分が鋭すぎると感じ、曲全体の編曲を書き直すよう求めた。作曲家は指揮の身振りを調整し続けるのではなく、楽譜そのものを書き直した。金管の旋律線を弦楽に割り当て、和声構造を調整し、一部の段落を削って新たに創作した。今回は曲そのものが変わったのだ。

二種類のタスクは経営層のスケジュール表ではどちらも「演出調整」と書かれるが、楽団の投入はまったく異なる。指揮者がジェスチャーを変えるには三回のリハーサルだけでよく、楽団が通常通り来場すればよく、予算は数万元。作曲家が編曲するには譜面を再分割し、デモを再録音し、数十ページの楽譜を再校正する必要があり、期間は週単位、予算は十数倍になる。

ある時、主催者が二種類のタスクを混同した。彼らが望んだ効果は曲が「より柔らかく」聞こえることだったが、出した要求は「演奏の仕方を変えてほしい」だった。指揮者は二回の稽古を使って手の動きを調整した。弦楽器をより際立たせ、金管の入りを抑えた。確かに少し柔らかく聞こえたが、金管の鋭い音色そのものは変わっておらず、指揮者が変われば元に戻るかもしれない。

楽団のマネージャーは後に規則を定めた。同じ曲の特定の場面での表現効果の変化だけが必要なら、指揮者に手ぶりを調整してもらえばよい。その曲がどんな場面でも、どんな指揮者の下でも違って聞こえる必要があるなら、作曲家に譜面を変えてもらう必要がある。二つの方向はコスト差が甚大で、同じ作業指示名で日程表に書くことはできない。

楽団は後にこの判断基準を練習室の壁のフローチャートに書き込んだ。原曲自体は適切で、今回の演奏で息継ぎ、強弱、入場のタイミングを変えるだけなら、指揮者に手の動きを調整させる。原曲の書き方がすでに目標の場に合わないなら、指揮者を十人替えても少しごまかせるだけなので、作曲家に楽譜を書き直してもらう。

フローチャートの一番下には赤い文字の一行もある。まず問題が指揮台にあるのか、五線譜にあるのかを聞け。前者は直しが速く、コストが軽く、場面ごとに切り替えられる。後者は直しが深く、周期が長く、新しい版を残す。二種類の作業票を混ぜて出すと、軽ければ稽古費が余計にかかり、重ければ公演全体が誤った譜面を抱えて舞台に上がることになる。

プロンプト微調整

モデル入力層で学習可能なソフトプロンプトベクトルの組を訓練し、特定タスクでモデルがより良く振る舞うよう導く。モデル自体の全パラメータは変わらない。

ファインチューニング

事前学習済みモデルをベースに、特定タスクのデータでモデルの一部または全部の重みパラメータを更新し、モデルに新しい知識を獲得させたり、行動パターンを調整したりすること。

物語の対応

  • 指揮者が手振りを調整して同じ曲をより柔らかくする:プロンプト微調整、モデルパラメータを動かさず入力の導き方を変える
  • 作曲家が楽譜を書き直して曲そのものを変える:微調整、モデルの重みパラメータの更新
  • 主催者は二種類のタスクを混同した。排程表に同じ工単名を書いたため、資源の割り当てを誤った。
  • 柔らかくしたいなら指揮者を、曲を変えたいなら作曲家を探す:まず欠けているのが導きなのか知識なのかを判断する
  • コスト差は十数倍、適用場面は全く異なる:プロンプト微調整は微調整の代わりにならず、微調整も単に誘導するだけの場面に浪費すべきではない

モデル適応方案に落とし込む

顧客の適応要件を受けたら、まず判断表を一枚埋める。モデルはこの領域の知識自体が十分か? 十分なら、より良い質問の仕方が必要なだけで、プロンプトチューニングを使う。モデルがこの領域の関連知識を欠くか、スタイルが完全に違うなら、ファインチューニングに進む。プロンプトチューニングは訓練コストが低く、配備が柔軟だが、新しい知識は増やせない。ファインチューニングはモデルの能力を変えられるが、期間と GPU 投入が大きい。調達リストではこの二行を明確に区別し、ファインチューニングの金でプロンプトチューニングの仕事をするのを避ける。

京ICP备2026014272号