← 概念解説に戻る

Concept Fable

カリキュラム学習

先に結論:Curriculum Learning は、易から難へ、または能力段階に従って訓練サンプルを組織する戦略で、人間の学習課程に似ている。モデル事前訓練、指示微調整、Agent軌跡訓練、ツール使用訓練に使われ、モデルが基礎能力をより安定して習得してから複雑なタスクを処理するのを助ける。鍵は難易度測定、段階切替基準、最終的な真実分布評価の設計にあり、訓練分布が理想的になりすぎるのを避ける。

Curriculum Learning · Training

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

まず石橋を渡り、それから風雪の山道を行く

駅站は新たに信使の阿南を受け入れた。站長は人を急ぎ必要とし、初日から雪山を越え、吊橋を渡り、夜に道を辨べさせた。阿南は地図を暗記したが、山口で風の音を川の音と間違え、半日回り道し、手紙も雪に濡れた。

アナンには才能がないと言う人もいた。老いた伝令使いは焦らず、彼を平坦な道に連れ戻した。第一週は道標と里程石を見る練習だけ、第二週は雨後の泥の跡を見分ける練習、第三週になって初めて狭い橋を渡り、その後で夜道、風雪、荷物を加えた。

阿南は最初、遅すぎると感じた。しかし平地では分岐と村名を対応させることを学び、雨天では車輪の跡の新旧を見ることを学び、橋の上では脚力を配分することを学んだ。各層が次の層のために手がかりを残していた。

駅長は一度飛び級させ、直接急信を届けさせようとした。老いた飛脚が止めた:難しい課題は練習できないわけではないが、前の能力が固まってから負荷をかけるべきだ。最初からすべての困難を積み上げると、失敗したときにどこが間違いかも見えなくなる。

二か月後、阿南は再び雪山を歩いた。まず里程石で入口を確認し、次に風向きで雪の吹き溜まりを判断し、橋を渡る前に手紙袋を風下側に移した。その便は一刻遅れたが、無傷だった。

駅長は最初、難しい道を短く切ればよいと思い、阿南に毎日少しずつ雪山を歩かせた。しかし彼は普通の道標さえまだ安定して読めず、短い雪道でも慌てた。難易度を距離だけで切って、力量の成長に合わせなければ、依然として人を穴に押し込んでいる。

老信使は各関門に、通れるだけの基準を設けた。道標を正確に見てから雨を加え、雨の道が安定してから狭い橋を加え、狭い橋で慌てなくなってから夜色を加えた。阿南が毎回向き合う課題は昨日より少し難しかったが、完全に制御不能になるほどではなかった。半年後に雪山を歩いたとき、彼はルートを丸暗記したのではなく、それまでに鍛えた力を一層ずつ積み上げていった。駅長は後にこの練習法をすべての新人に使った。新人は初日の高山に怯えなくなり、いつまでも平地に留まることもなくなった。課題の難易度が階段のように上がるからこそ、学んだ力が次の段を支えられる。

駅伝所は後に訓練帳を組み直した。単純で、きれいで、誤りを正せる道から始め、徐々にノイズ、危険、組み合わせ課題を加えていった。良い使者は難題に叩きつけられて生まれるのではなく、適切な順序の中で一つの能力を次の能力へとつないでいくものだ。

明らかにする

この物語が語っているのは:コース学習

Curriculum Learning は、易から難へ、または能力段階に従って訓練サンプルを組織する戦略で、人間の学習課程に似ている。モデル事前訓練、指示微調整、Agent軌跡訓練、ツール使用訓練に使われ、モデルが基礎能力をより安定して習得してから複雑なタスクを処理するのを助ける。鍵は難易度測定、段階切替基準、最終的な真実分布評価の設計にあり、訓練分布が理想的になりすぎるのを避ける。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 風雪山口:高難度で複雑な訓練サンプル
  • 平路、石橋、夜路:段階的なトレーニングコース
  • エラーが分析しやすい:段階的な訓練が交絡因子を減らす
  • マルチツールの長タスク:企業Agentの高難度トレーニングシナリオ
  • いつ次の段階に進むか:コース学習には評価のしきい値が必要

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

training strategydata mixingアニーリング
京ICP备2026014272号