← 概念解説に戻る

Concept Fable

純粋なデコーダー

先に結論:Decoder-Only は Transformer のデコーダスタックのみを使用するアーキテクチャで、現代の GPT 系大規模言語モデルの多くがこの路線を採用している。入力プロンプト、コンテキスト、例、生成済み内容をすべて同一の系列に置き、自己回帰的に次の token を予測する。企業 Agent では、このアーキテクチャは汎用生成やツール呼び出しに適するが、コンテキストエンジニアリング、検索選別、プロンプト境界、コスト管理に強く依存する。

Decoder-Only · アーキテクチャ

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

返信房しかない商会

北橋商会にはかつて三つの楼がありました:読信楼、核帳楼、返信楼。後に彼らは、ほとんどの顧客が求めるのは独立した報告書ではなく、直接実行できる返信、チェックリスト、コード、次のアクションであることに気づきました。

新会長はシステムをより大きな返信室に変えることを決めた。すべての資料、質問、ルール、履歴記録が同じ長い机に並べられ、書記は左から右へ読み終え、さらに続きを書いていく。

最初は、これはあまりに粗雑に見えた。専門の読信楼がなければ、システムはどうやって複雑な資料を理解するのか?会長の補救は前置き説明を絶えず加えることだったが、結果として長机はますます長くなり、書記はまだ書く前に疲れてしまった。

二度目の修正は、すべての資料を詰め込むことだった。顧客は「何でも渡した」と満足したが、経理係は一通ごとのコストが上がり、古い資料が新しい任務を妨げると気づいた。

本当の改め方は三棟の楼を復元することではなく、タスク、資料、ツール結果、出力を同じ一つの系列に置き、因果順序で組織することを学ぶことだ。

こうして、返信室は読むことも書くこともでき、例に従ってフォーマットを模倣することもできるようになった。タスクを理解する唯一の構造とは限らないが、大規模な汎用生成の最もシンプルで強力なルートの一つとなった。

商会も代償を払った:コンテキスト管理、検索選択、システムプロンプト、ツールの戻り値、出力予算のすべてをより厳格にしなければ、すべてが同じ高価な長机に載ってしまう。

会長は最後に言った。この建物の強みは統一であり、リスクも統一である。すべてが続きを書く問題になった後、長机に何を載せるかを決める者が、システムの上限を決める。後に商会も自制を学んだ。すべての紙を長机に敷くべきではなく、古い帳簿、範例、規則はタスクに応じて選ぶべきだ;すべての返信を無限に続きを書くべきでもなく、棚を調べるべき時、人に聞くべき時、筆を止めるべき時が来たら、長机の結果を引き渡さなければならない。返信房はそれゆえ読書処にも書き物処にも似ているが、その秩序は常に前後に連なるあの紙帯から来ている。後に書記たちは長机に整理の規則も設けた。期限切れの紙は速やかに撤去し、重要な指令は前に置き、統一された部屋が何でも飲み込む物置にならないようにした。何を入れるかは、しばしば部屋そのものより重要である。長机が整然としてこそ、続きを書くことは安定する。取捨が明確であってこそ、古い紙に遅くされない。

明らかにする

この物語が語っているのは:純デコーダ

Decoder-Only は Transformer のデコーダスタックのみを使用するアーキテクチャで、現代の GPT 系大規模言語モデルの多くがこの路線を採用している。入力プロンプト、コンテキスト、例、生成済み内容をすべて同一の系列に置き、自己回帰的に次の token を予測する。企業 Agent では、このアーキテクチャは汎用生成やツール呼び出しに適するが、コンテキストエンジニアリング、検索選別、プロンプト境界、コスト管理に強く依存する。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 返信室だけ:Decoder-Only アーキテクチャ
  • 長机:統一された prompt/context シーケンス
  • 前置き説明を不断に追加:コンテキスト積み重ね式の修正
  • すべての資料を詰め込む:高コストで選択性の低いコンテキスト利用
  • 因果順序:Decoder-Only の生成制約
  • 読み書き一体:同じモデルで理解と生成を完結する
  • 最後の洞察:汎用的な生成能力が、コンテキストガバナンスを中核的なエンジニアリング課題に変える

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

causal attention自己回帰GPTnext-token prediction
京ICP备2026014272号