← 概念解説に戻る

Concept Fable

メモリ圧縮

先に結論:Memory Compression は、長い会話、過去の観察、検索資料、実行トレースを、より短い要約、構造化された事実、または検索可能なメモリに圧縮し、後続の context budget に収まるようにしつつ、タスクに有用なシグナルをできるだけ保持する。企業 Agent には、token コストを制御し、コンテキストのノイズを減らし、長期タスクが多ラウンド実行でも重要な状態を失わないようにするために必要である。

Memory Compression · Agent memory

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

文書館は十車の旧案を一冊の行路簿に圧縮した

江湾文書館は、町の巡検隊に代わって案巻を保管していた。昔は案件が少なく、巡検は出発のたびに関連する過去の巻宗をすべて車に積み込み、道中でゆっくりめくれば、必ず少しは役立つ手がかりが見つかった。

その後案件が増え、文書ファイルは十台分にまで積み上がった。巡検が現場に着く前に馬は疲れ果て、書記は手間を省こうと直近の三冊だけを持参したが、そのせいで旧案件の重要な人名がしばしば漏れた。

館長はまず写本係に要約を書かせた。各巻物は三行に圧縮されたが、三行では短すぎて結論だけが残り、証拠も時間も例外もなかった。巡検は要約に従って行動し、何度か類似案件を同じ分類に混ぜてしまった。

もう一人の書記は逆に、すべての細部を残し、挨拶と無駄話だけを削った。車は少し軽くなったが、毎回多くの冊子を持ち運ばねばならず、本当に役立つ手がかりは依然として紙の山に埋もれていた。

一人の老いた記録官が層別整理を始めた。彼は長い巻物を案件経過、信頼できる事実、未解決の問題、人物関係、次回行動のヒントに圧縮し、確定できない箇所は理解したふりをせず、明確に「要調査」と記した。

彼はまた、判断に繰り返し影響する事実だけが常用の行路簿に入ると定めた。一度きりのノイズは元の巻に残し、必要になったら再び調べる。

巡回は当初、圧縮で何かが失われるのを心配した。老案師は、案件を終えるたびに圧縮簿と原本を照合するよう彼らに求めた。どの要約が役立ったか、どの省略が誤判を招いたか、どの古い事実がすでに期限切れか。

数か月後、巡検は外出時に一冊の行路簿と少数の原巻索引だけを持っていった。隊はより速く進み、旧案を新案と取り違えることも少なくなった。館長はついに理解した。記憶の価値は過去をそのまま今日へ運ぶことではなく、未来の意思決定に本当に必要な信号を残すことにある。後に行路簿は毎月改訂された。有用と証明されたものは残し、人を誤らせたものは書き換え、失効したものは赤く印をつける。圧縮とは旧事を短くすることではなく、旧事を新たな判断に役立て続けることだ。巡検も行路簿を迷信しなくなった。重大な判断に際しては、索引をたどって原巻へ戻り、圧縮が重要な例外を磨き消していないか確認する。

明らかにする

この物語が語っているのは:記憶圧縮

Memory Compression は、長い会話、過去の観察、検索資料、実行トレースを、より短い要約、構造化された事実、または検索可能なメモリに圧縮し、後続の context budget に収まるようにしつつ、タスクに有用なシグナルをできるだけ保持する。企業 Agent には、token コストを制御し、コンテキストのノイズを減らし、長期タスクが多ラウンド実行でも重要な状態を失わないようにするために必要である。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 文書館:Agent の履歴コンテキストとタスク記憶を保存するシステム
  • 十車の旧案:長い対話、ログ、検索断片、実行軌跡
  • 三行要約:過度な圧縮により、検証可能な細部が失われる
  • 階層整理:summary、facts、open questions、entities、next actions などの構造化メモリ
  • 常用の道中記:後続の prompt や memory store に残される高価値シグナル
  • 原卷を再確認:必要に応じて元の記録や外部ナレッジベースに戻り証拠を補う
  • 最後の洞察:記憶圧縮は単に短くすることではなく、限られたコンテキストの中で将来の行動に必要な情報を保持すること

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

context window要約長期メモリsemantic memorymemory consolidationtoken budget
京ICP备2026014272号