← 概念辨析に戻る

Concept Contrast Fable

大規模言語モデルと基盤モデル、一方は言語の通路に住み、一方は何でも寝られる

先に結論:大規模言語モデルは基盤モデルの一つの具体的な実装であり、テキストの理解と生成のために訓練されている。基盤モデルはより大きな概念で、さまざまな大規模データで事前学習された汎用モデルを包含し、テキスト、画像、コード、タンパク質などのマルチモーダルタスクを実行するものもその一員になり得る。LLM を基盤モデルのすべてとみなすのは、一本の川を世界のすべての水資源とみなすようなものだ。

大規模言語モデルは基盤モデルの一つの具体的な実装であり、テキストの理解と生成のために訓練されている。基盤モデルはより大きな概念で、さまざまな大規模データで事前学習された汎用モデルを包含し、テキスト、画像、コード、タンパク質などのマルチモーダルタスクを実行するものもその一員になり得る。LLM を基盤モデルのすべてとみなすのは、一本の川を世界のすべての水資源とみなすようなものだ。

寓話

天枢閣には二種類の弟子がいる。一方は言葉だけに通じ、もう一方は何をするにもまず基礎を鍛える。

天枢閣は朝廷が智士を育成する最高学府である。智士には多くの種類がある。各国の文書や法典の通訳を専門とする「言語弟子」、地図や水文の解読を得意とする「図譜弟子」、そして欠損した古書から元の姿を推測できる「補欠弟子」がいる。最初の三年間は全員が共通の「底子堂」に入り、大規模な典籍、地図、暦法のデータで一般教養を訓練する。

底子堂の育成方法は非常に特別だ。特定のタスクを対象にせず、言語も教えず、図譜も教えない。ただ一つのことだけを行う——弟子たちに、膨大でラベルのない原資料の上で世界全体への知覚を築かせ、頭の中の接続を密で、安定し、広い範囲を覆うものにする。この土台ができた後、弟子たちはそれぞれ専門の道へ進む。言語の弟子は文法と写作を学び、図譜の弟子は投影と地誌を学ぶ。

鎮院には老学正がいて、新しく来た夫子に必ず一つの問題を出すのが好きだった。あなたの目の前にいるこの言語の弟子は一流の言語専門家だが、もし彼に急に地図を一枚解かせたらどうか。夫子はたいてい、この弟子はそれを練習したことがないと言う。老学正は言う、その通り——彼は地図が読めないのではなく、テキストを世界への通路とするよう訓練されているのだ。彼の土台は底子堂で三年の汎用層を積み、専門の道は「言語」という一本だけが通っている。

物語の重要な転換点は、底子堂が第三期生を拡招したことにある。この期の弟子の中には、言語と知識グラフを同時に修める者もいれば、底子堂で基礎を固めた後に「マルチモーダル知覚」専攻を訓練した者もいる——テキスト、画像、気候変動データの間を切り替えられる。老学は学籍簿にこの新弟子たちのために枠を描き、こう書いた:基盤は底子堂であり、その後どこまで進むかはあなたの専門経路が単一モーダルかマルチモーダルかにかかっている。

ある時、朝廷が天枢閣に人を遣わし、「言語弟子」を一批購入して六部の文書翻訳を手伝わせたいと言った。発注書には「智士(言語類)」と四文字だけ書かれていた。後に戸部も来て、帳簿も見られ図も読める弟子を求められた。閣は発注記述が狭すぎたと知った——彼らが購入したのは「言語弟子」であり、「底子堂から出た智士」ではなかった。後者は大きな母集団で、さまざまな能力を育成できる。

老学正はそのため対外交流の用語を改め、規則を定めた。天枢閣が輩出する人材を説明するときは、まず「底子堂の一般教養訓練に専門経路を加えたもの」と書き、次に通路の種類を明記する。文書処理だけなら言語弟子で十分だが、文書を読み、地図を見、水文を辨じる必要があるなら、底子堂を出た後に多通路訓練を受けた弟子を探さなければならない。

後にこの学び舎では一つの共通認識が生まれた。底子堂をそのまま言語弟子の書院と呼ぶべきではない。底子堂は育成の階層であり、言語弟子はその一つの出口にすぎない。一つの底子堂は言語弟子、図譜弟子、補欠弟子を同時に輩出できる。底子堂の名を狭めてしまえば、他の出口はすべて閉ざされてしまう。

大規模言語モデル

テキストの理解と生成に特化した大規模事前学習モデル。基盤モデルのサブクラスの一つで、主にテキストデータで訓練され、言語タスクを処理する。

基盤モデル

大規模なマルチソースデータで事前学習された汎用モデルで、下流のさまざまなタスクの基盤として使える。テキスト、視覚、コード、科学データなど多様なモダリティをカバーし、LLM はそのうちの一つの具体的な形態である。

物語の対応

  • 底子堂:基盤モデル——大規模な汎用データで事前訓練された基礎層
  • 言語の弟子:LLM——テキストを世界への通路とする専門分野
  • 図譜弟子とその他:他のモダリティの基盤モデル——視覚モデル、コードモデルなど
  • 底子堂の3年間の一般教養訓練:大規模事前学習——汎用的な表現能力を確立する
  • マルチチャネル知覚の弟子:マルチモーダル基盤モデル——複数のモダリティで訓練された基盤
  • 戸部の調達担当は狭すぎると言う:LLM という言葉で調達すると、より多くの能力への期待が制限される
  • 老学正の新規則:まず事前学習基盤を宣言し、それからチャネル種別を加える——正しい命名方式

モデル選定と能力評価に落とし込む

モデルを選ぶときは、まず業務が求めているのが純粋なテキスト処理なのか、クロスモーダルなのかをはっきりさせましょう。対話、翻訳、要約だけなら LLM で十分であり、マルチモーダルの基盤モデルに余分な計算コストを払う必要はありません。テキスト、画像、コードを同時に扱う必要があるなら、マルチモーダル基盤モデルの製品ラインを直接探しましょう。社内の技術文書や対外発注書では、「基盤モデル」を大きなカテゴリ名として使い、LLM はそのサブクラスのラベルの一つとします。文書内で両者を同義語として置き換えないでください——後から見る人が、あなたが買ったモデルが結局どんな能力なのか分からなくなります。

京ICP备2026014272号