← 概念辨析に戻る

Concept Contrast Fable

何を削除し、どれだけ収められるか

先に結論:コンテキストプルーニングやプロンプト圧縮は、不要な情報を能動的に削減・圧縮してトークンを節約し効率を高める戦略である。コンテキストウィンドウはモデルアーキテクチャが規定する最大トークン容量の上限である。一方は管理戦略、他方は構造的制約——戦略の問題を容量不足と見なすと、内容を最適化するのではなく誤ってウィンドウを拡大してしまう。

コンテキストプルーニングやプロンプト圧縮は、不要な情報を能動的に削減・圧縮してトークンを節約し効率を高める戦略である。コンテキストウィンドウはモデルアーキテクチャが規定する最大トークン容量の上限である。一方は管理戦略、他方は構造的制約——戦略の問題を容量不足と見なすと、内容を最適化するのではなく誤ってウィンドウを拡大してしまう。

寓話

書閣に二人の管理者がいる。一人は本の削除を、もう一人は本棚の段数を管理する

皇家書閣には二人の管理者がいる。馬老は書架の管理を担当する——閣には固定サイズの書架があり、一棚に千の区画、一区画には一冊しか置けない。秦老は書目の管理を担当する——毎日各地の奏章、県志、手紙が書閣の入口に積み上がり、秦老は送られてくる文書ごとに赤ペンで核心段落を描き、無関係な付録、挨拶文、重複内容を切り捨て、それから馬老に渡して棚に並べさせる。

最初、書閣は順調に回っていた。馬老は枠に従って棚に上げ、秦老は内容に従って切り分けた。やがて各地から届く文書の量が三倍になり、秦老がどんなに速く動いても裁ききれなくなった。誰かが書閣に書架を増やそうと提案した——各架一千枠を三千枠に広げるのだ。新しい書架が運ばれると、馬老は裁かない文書をそのまま棚に上げ、閣はぎっしり詰まった。逆に秦老は気づいた。書架を増やしてから、みんな文書の質にいっそう無関心になった。場所が広くなれば、簡潔さを気にしなくなるからだ。

本当の厄介事は記録を調べるときに現れた。以前、秦老が裁いた文書で、ある県の塩税記録を探そうと思えば、該当段落をめくれば見えた。書架を拡張した後は、裁かない原文が千件積み上がり、同じ文書に挨拶文、家系図、無関係な県間比較が混ざっていた。記録を調べる人が同じキーワードで検索すると、結果は3倍になったが、本当に役立つのはやはりその数段落だけだった。

書閣は後に折衷案を考えた。馬老は本棚の大きさを無限に広げてはいけないと主張した。棚を広げるたびに保守と検索のコストが上がり、大きな本棚が良い検索を意味するわけではないからだ。秦老は削減を一律にしてはいけないと主張した。ある文書は関連性が強く、一部を削ると文脈の一貫性が壊れることがあるからだ。二人は共同で削減マニュアルを書き、文書の種類と検索シナリオに応じて削減戦略を決めることにした。

若い書記が質問した。もし書閣が百万棚の書架を収められるなら、まだ削る必要があるのか。秦老は逆に問うた。百万棚の書架にも客套話を全部詰め込むのか。相手は削らなくていい、場所は十分あると言った。秦老は百万件の記録の中から、百件の客套話に囲まれた塩税データ一件を探させた。若者は一日かけて探し、以前は三件で見つかったものが今は百件をめくると言った。

書閣の入口には後に一対の対聯が掛けられた:窓の大きさは書架の区画、裁減戦略はどの本をどの区画に置くかである。書架を増やしても本を選ぶ問題は解決しない。

秦老は退職前にマニュアルに一節を書いた。本棚のマス目が最大でどれだけ収められるかを決め、削減の技が入れたものの価値を決める。両者は互いに制約する——マス目が少なすぎれば、どんなに優れた削減も救えない。マス目が十分大きくても削減がなければ、訪問者に大量の無駄話の中から針を拾わせるようなものだ。

コンテキスト剪定/プロンプト圧縮

コンテキスト中の冗長、無関係、または低価値な情報を主体的に削除・圧縮し、token を節約して推論品質を高める。これはコンテンツ管理戦略であり、モデルの容量上限を変えるものではない。

コンテキストウィンドウ

モデルアーキテクチャが規定する最大トークン容量の上限で、1回の推論で処理できるコンテキスト量を決める。これは構造上の制約であり、ウィンドウ拡大にはコストと遅延が伴い、内容の品質問題は解決しない。

物語の対応

  • 馬老が書棚の区画を管理する:コンテキストウィンドウ——固定容量の上限
  • 秦老の文書削減:コンテキストの剪定・圧縮——ウィンドウに入れる内容の品質を管理する
  • 棚を三千マスに拡張しても切らなくなった:ウィンドウの拡大はコンテンツの切り詰めの代替にはならない
  • アーカイブ検索で三倍の無駄な結果:窓は大きいが枝刈りがないと検索効率が下がる
  • 100万tokenでも塩税データは見つからない:容量が大きいことは情報密度が高いことではない
  • 棚の格子が上限を決め、削減が投入品質を決める:ウィンドウと剪枝は補完的だが異なる変数

コンテキスト管理戦略に落とし込む

コンテキストウィンドウの拡大はコンテンツ管理の代替にはならない。まずコンテンツ側で剪定と圧縮を行う——重複排除、要約、無関係な段落の除去——その後、ウィンドウ拡大が必要か検討する。ベンダーの製品を評価する時は、コンテキスト圧縮メカニズムを提供しているかを見る。ウィンドウサイズだけを見るのはコンテンツ密度を無視している。同じウィンドウでも、剪定が良いシステムは回答精度が三割高くなることがある。

京ICP备2026014272号