← 概念辨析に戻る

Concept Contrast Fable

コンテキスト学習と少数ショットプロンプト:一つはモデル自身が帰納し、一つはあなたが例を与える

先に結論:二つの言葉はしばしば互換的に使われるが、システム設計では異なるものを指す。文脈内学習はモデルが現在の対話ウィンドウ内の情報を利用してパターンを自ら帰納する能力であり、少数ショットプロンプトは入力にいくつかの例を能動的に挿入して出力形式やスタイルを導くことだ。区別して初めて何を最適化すべきかがわかる。

二つの言葉はしばしば互換的に使われるが、システム設計では異なるものを指す。文脈内学習はモデルが現在の対話ウィンドウ内の情報を利用してパターンを自ら帰納する能力であり、少数ショットプロンプトは入力にいくつかの例を能動的に挿入して出力形式やスタイルを導くことだ。区別して初めて何を最適化すべきかがわかる。

寓話

厨房の見習いとレシピ

旧市街に小さな私房菜館がある。料理長の弟子の育て方はとても独特だ。弟子にレシピを暗記させず、ただコンロのそばに立って見させる。季節ごとの食材の扱い方、火加減に応じた味付けの調整、客の要望が変わったときの即興の包丁さばきを見る。三年もすると、弟子は自然と料理のリズムと判断を身につけ、見たことのない食材でも扱えるようになる。

隣に新しいチェーン店が開店し、研修方法はカードを配ることだった。各カードには似た三つの料理の完全な手順が書かれている。新しい料理人はカード上のパターンに従って四つ目の料理を作る。カードが変われば、出来上がる料理も変わる。料理人は原理を理解する必要はなく、カード上の構造を複製するだけでよい。

ある時、飲食協会が品評会を開き、両店に審査員指定の創作料理を一品ずつ出すよう求めた。私房菜館の弟子は食材リストを見て、師匠が似た食材を扱った手法とその日の厨房での会話を思い出し、師匠の面影がありつつも完全には同じでない料理を作った。チェーン店の料理人はカードボックスを隅々まで探したが、この新しい料理の要求に合うカードは一枚もなく、出来上がったものは硬くぎこちないものだった。

このときになって皆が、二つの研修方法が一体どこで違うのかを問い始めた。徒弟は長期的に頭を切り替えたのではなく、その日の竈の上の材料、師匠が先ほど言った言葉、前のいくつかの料理に応じて、その場で手法を調整しただけだ。カード料理人は、人が整理した固定の類似事例に頼り、一組のカードが一種の料理を扱う。

後に誰かが愚直な方法を思いついた。師匠の調理過程を何百枚ものカードに書き、チェーン店の料理人に押し付けた。結果、カードが増えるほど料理人は混乱した。彼に必要なのは似たテンプレート一式だけだったのに、山積みの原料メモを前に、どれを見ればよいか分からなくなった。

二店舗が後に協業する際、一つの決まりを定めた。新しい料理や新しい食材に出会ったら、まず徒弟に試させ、厨房の環境から自然にやり方が形成されるようにする。実行可能と確認できた後、最も重要な数枚のカードを選び出し、チェーン店の料理人に参考として渡す。徒弟は環境から育つことを担い、カードは育ったものをより多くの人へ伝えることを担う。

数年後に振り返ると、最も価値があったのはその分業だった:情報豊富な環境で能力を生み出す者と、その能力を伝達可能な事例として封装する者。カードの枚数は重要ではなく、分業の境界が重要だ。二つの工程はそれぞれ独立して行い、どちらも相手を代替できるふりをしてはいけない。

文脈内学習

モデルは推論時に会話ウィンドウ内のコンテキスト情報を利用して自ら規則を帰納し、パラメータを更新する必要がない。これはモデルの能力属性である。

少数ショット・プロンプティング

プロンプト内でいくつかの例を積極的に提示し、モデルが例のパターンに従って出力するよう導く。これはプロンプト設計の戦略である。

物語の対応

  • 弟子は竈のそばに三年立って見る:コンテキスト学習、モデルは対話ウィンドウ内で自ら吸収し帰納する
  • カードにある三道の似た料理の手順:少数ショットプロンプト、能動的に例を入れて出力形式を導く
  • 弟子は新しい食材を手にしても対応できる:ICL 能力が未見のタスクに直面したときの汎化
  • カードが増えるほど料理人は混乱する:提示例が多すぎるとかえってモデルの判断を妨げる

Agent プロジェクトに落とし込む

Agent の行動を設計する際はまず判断する。モデルが対話履歴から文脈の変化を自ら理解する必要があるのか(ICL 依存)、それとも出力形式を固定するためにいくつかの固定例を与える必要があるのか(few-shot 依存)。前者はモデル能力の上限に依存し、後者は例の品質に依存する。評価で few-shot の正解率をそのまま ICL 能力の強さと同一視してはならない。

京ICP备2026014272号