← 概念解説に戻る

Concept Fable

コンテキストウィンドウ

先に結論:Context Window は、モデルが一度のリクエストで処理できる入力と出力の総量であり、通常は token で測る。prompt、検索材料、履歴メッセージ、ツール結果、生成答案が共同で占められる空間を決める。長コンテキストモデルは截断リスクを下げるが、関連性、順序、汚染、コスト、注意力希釈の問題を自動的に解決するわけではない。企業 Agent はコンテキストウィンドウを中心に選択、並べ替え、圧縮、予算管理を行う必要がある。

Context Window · LLM

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

一つの案机しか見えない裁判官

老法院に、裁判記録を極めて速く読む法官がいた。しかし彼には制限があった。毎回、机の上の紙しか見えないのだ。机の外の巻宗がどんなに重要でも、机に置かれなければ存在しないものとして扱った。

昔は事件が少なく、書記官は訴状、証言、規則を机に載せれば十分だった。しかし後に事件が契約、古い手紙、過去の苦情、ツールの受領記録、判例にまで関わるようになり、机は混み合い始めた。

書記官はまず字を小さく書き、より多くの紙に詰め込んだ。法官は確かにより多くの資料を見たが、重要な文を見落としやすくなった。新しい証拠と期限切れの規則が混ざり合い、順序が混乱した。

彼らはさらに大きな作業台に替えた。皆はしばらく喜んだが、まもなくまた山積みになった。より大きな桌面は、整理を怠ることを長生きさせ、無関係な材料も堂々と判断に入り込ませた。

ある裁判では、賠償を決める条項が最後に押しやられ、裁判官はそれを見なかった。別の裁判では、期限切れの政策が最も目立つ場所に置かれ、かえって判決に影響した。

新しい書記官は問いを変えた:本案で必ず知るべきことは何か、何が背景にすぎないか、何を要約すべきか、何を原文で保持すべきか、何をそもそもテーブルに載せるべきでないか。机は依然として限られているが、結果は安定した。境界の大きさも重要だが、何を載せるかがもっと重要だ。

書記官はまた、資料に順位をつけることも覚えた。必ず守るべき規則は決まった位置に置き、現在の問題をそのすぐ隣に置き、証拠は新旧と関連度で並べ、紛らわしい古い資料は出所を明確に示す。

机はそれによって無限に広がることはなかったが、秩序ある部屋のようになった。裁判官は速く読めるが、それでも机の影響を受ける。書記官の腕の見せどころは、限られた机に最も有用な手がかりを載せることだ。後に新人が入門するとき、老師匠はまず抽象的な名称を講じるのではなく、あの失敗を振り返らせた。もともとどこが直感に頼っていたのか、最初の修復ではなぜ不十分だったのか、新しい取り決めがどのようにリスクを検査可能な位置に留めるのか。彼らがこれらの細部を説明でき、いつ沿用し、いつアップグレードすべきかも指摘できるようになって、初めてこの方法を本当に理解したと言える。後に彼らはこの方法を新人の演習にも使った。まず新人に旧方法で一度やらせ、誤りがどのように現れるかを見る。次に新ルールでやり直し、どのステップが事前に止められ、どのステップが証拠を残したかを見る。新人が名前を暗記するだけでは、似た場面で誤用してしまう。適用範囲、コスト、失敗後の補救を説明できて初めて、独立して仕事を任される。

明らかにする

この物語が語るのは:コンテキストウィンドウ

Context Window は、モデルが一度のリクエストで処理できる入力と出力の総量であり、通常は token で測る。prompt、検索材料、履歴メッセージ、ツール結果、生成答案が共同で占められる空間を決める。長コンテキストモデルは截断リスクを下げるが、関連性、順序、汚染、コスト、注意力希釈の問題を自動的に解決するわけではない。企業 Agent はコンテキストウィンドウを中心に選択、並べ替え、圧縮、予算管理を行う必要がある。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 案卓:モデルの一回のコンテキストウィンドウ
  • 机の外の巻宗:現在のリクエストに入っていない情報
  • 文字を小さくする:乱暴に圧縮する、またはより多くの資料を詰め込む
  • より大きな作業台:より長い context window
  • 期限切れポリシーを目立つ場所に:低品質なコンテキストは出力に影響する
  • 食卓に載せるルール:コンテキストの選択、並べ替え、圧縮の戦略
  • 最終的な洞察:Context Window は容量の境界であり、コンテキストエンジニアリングの代わりにはならない

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

tokenpromptlong-context modelattentionトランケーション

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号