← 概念解説に戻る

Concept Fable

文脈内学習

先に結論:In-Context Learning は、モデルが prompt 内の指示、例、文脈に応じて一時的に振る舞いを調整する能力で、モデルの重みは更新しない。Few-shot、形式例、反例、タスク説明はいずれもこの能力を利用する。企業 Agent が In-Context Learning を使う際の鍵は、例の選択、順序、網羅範囲、境界説明、評価にある。悪い例はモデルに誤ったパターンを学習させ、例が多すぎるとコンテキスト予算を圧迫する。

In-Context Learning · LLM Interaction

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

三枚の見本を見れば臨模する書吏

県衙に新しい書吏が来たが、師匠に弟子入りし直す時間はない。師爺はその日に書く公文、三枚の古い見本、いくつかの規則を彼の前に置き、この趣旨でやれと言った。

書吏は自分の技芸の根を変えなかったが、見本から形式、語調、取捨、禁忌を見抜けた。最初の告示は見栄えよく書け、師爺は満足した。

後にタスクが増えると、師爺は気軽にサンプル原稿を差し込むようになった。あるサンプルは旧制度から来ており、あるものは単なる下書きで、あるものは現在の案件に似ているが重要な条件が異なっていた。書吏は依然として目の前のパターンを学習するが、学んだことが正しいとは限らない。

あるとき彼は三つの見本がすべて賠償理由を最後に書いているのを見て、新しい案件でも同じようにした。しかし新しい案件ではまずリスクを説明しなければならず、そうでなければ顧客が誤解する。見本は形式を教えたが、適用範囲は教えなかった。

師爺はまず柔軟な対応を加えた。書吏はさらに揺れ動いた。ある時は見本に従い、ある時は指令に従い、ある時は偶然の言い回しを必須の規則とみなした。注意喚起が空疎であるほど、その場での誤読が増える。

後に師爺は見本稿を選び直した。各見本稿は一つの重要な状況をカバーし、入力、出力、判断根拠、模倣すべきでない箇所を示す。現在の案件の目標も見本稿の前に置かれる。

書吏は安定してパターンを借用し始めた。同じなのは構造で、違うのは事実。移転できるのは判断基準で、移転できないのは旧案の細部。見本稿は少なく時間どおりで、彼は小さな規律を臨時に身につけたかのように振る舞った。

県衙は書吏を再訓練しませんでしたが、彼を現在の材料の中で新しいタスクに迅速に適応させました。師爺もまた、目の前に置かれた例が今回の書き方を変えることを覚えていました。だからこそ例は清潔で、関連性があり、境界が明確でなければなりません。後に師爺は悪い見本もいくつか保存しましたが、横に何を学んではいけないかを明確に書きました。書吏は類似の案件を見ると、まず条件を比較し、それから形式を借りました。目の前の材料は一時的に並べられた机の上の小さな教室のようなもので、うまく並べれば速度が上がり、乱雑に並べれば間違った方法まで教え込んでしまいます。後に書吏の筆が速くなると、師爺はかえってより慎重に材料を並べました。なぜなら、机の上の一枚一枚の紙が、書吏の今回の取捨を一時的に変えうることを知っていたからです。後に振り返りで、皆はこの経験を日常の規則に書き加えました。まず現場で何が実際に結果を変えたかを見て、それから何を保持し、何を修復し、何を制限すべきかを決めるのです。

明らかにする

この物語が語るのは:文脈内学習

In-Context Learning は、モデルが prompt 内の指示、例、文脈に応じて一時的に振る舞いを調整する能力で、モデルの重みは更新しない。Few-shot、形式例、反例、タスク説明はいずれもこの能力を利用する。企業 Agent が In-Context Learning を使う際の鍵は、例の選択、順序、網羅範囲、境界説明、評価にある。悪い例はモデルに誤ったパターンを学習させ、例が多すぎるとコンテキスト予算を圧迫する。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 書記:事前学習後のモデル
  • 三枚の見本:prompt内の例またはdemonstrations
  • 再び師に就かない:モデルの重みを更新しない
  • 旧制度の見本:現在のタスクに適合しないコンテキスト例
  • 入力・出力・判断根拠を明示する:高品質な in-context 示例設計
  • 現在の案件の目標を前に置く:指示と例のコンテキスト構成
  • 最終洞察:In-Context Learning は、モデルが現在のコンテキスト内でタスクパターンを一時的に吸収すること

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

few-shot promptingpromptdemonstrationcontext window

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号