← 概念辨析に戻る

Concept Contrast Fable

KV キャッシュと KV キャッシュ:同じものが論文とエンジニアリング文書で二通りに呼ばれる

先に結論:Key-Value Cache と KV Cache は同じ仕組みを指す。Transformer 推論時に以前計算した Key と Value の行列をキャッシュし、新しい token を生成するたびに再計算するのを避ける。論文では通常、正式名称の Key-Value Cache を使い、コードコメントやアーキテクチャ図では KV Cache と略す習慣があり、製品ドキュメントでは混用されることが多い。呼び方が違っても実装ロジックには影響しないが、ドキュメントの可読性、調達ベンチマーク、監査の一貫性には影響する。チーム内で用語を統一する方が、どちらが正しいかを議論するより時間を節約できる。

Key-Value Cache と KV Cache は同じ仕組みを指す。Transformer 推論時に以前計算した Key と Value の行列をキャッシュし、新しい token を生成するたびに再計算するのを避ける。論文では通常、正式名称の Key-Value Cache を使い、コードコメントやアーキテクチャ図では KV Cache と略す習慣があり、製品ドキュメントでは混用されることが多い。呼び方が違っても実装ロジックには影響しないが、ドキュメントの可読性、調達ベンチマーク、監査の一貫性には影響する。チーム内で用語を統一する方が、どちらが正しいかを議論するより時間を節約できる。

寓話

薬局にある二種類の処方箋:同じ薬の正式名と略称

老舗の薬舗には三つの診察室と中央薬局がある。老医師は処方を書くとき「生地黄」「熟地黄」「酒黄芩」と正式名称を省略せずに書く。薬剤師が取り違えるのを恐れているからだ。若い医師は速さを求めて「生地」「熟地」「酒芩」と、同業者なら分かる略称で書く。同じ薬棚で、老医師の処方には「生地黄」と書かれ、若い医師の処方には同じ薬味が「生地」と書かれていても、薬剤師は一目見て同じ引き出しから取ると分かる。

問題は薬剤科にあった。科長は同時に二つの購買報告を受け取った。老医師の名義の薬耗には「生地黄は今月一斤半使用」とあり、若い医師の名義には「生地は今月一斤半使用」とあった。購買マネージャーは二つの報告を見て、これが二つの異なる薬だと思い、「生地黄」と「生地」で別々に発注し、倍の量を注文した。貨物が届いて初めて同じ薬だと分かり、倉庫には三か月分の在庫が積まれた。

より大きな問題は監査で起きた。省の薬剤稽查班が在庫を調査し、各薬に購入記録と処方消費の対応を求めた。老大夫のフルネームと若大夫の略称はシステムで関連付けられておらず、処方消費記録では「生地黄」と「生地」が二つの独立項目で、それぞれ相手の使用量を追跡できなかった。監査班が二行のデータを突き合わせるのに丸二日かかった。

薬剤科は後に命名規範を改革した。各薬の処方箋には略称を書いてよいが、同時に標準対照表からその薬の統一番号をチェックしなければならない。統一番号は処方、調達、在庫、監査システムを貫く。老医師は従来どおり「生地黄」と書き、番号は A037。若い医師は「生地」と書くが、番号も A037 である。調達マネージャーは番号だけで発注し、監査チームは番号だけで照合する。

改革から三か月後、小さな出来事があったが、問題をよく示していた。薬剤科で新しい購買マネージャーが就任し、中医の背景はまったくなかった。新マネージャーはシステム内に「生地黄」と「生地」の二つの表記が同時に現れているのを見たが、規則どおり番号 A037 だけを見て、まったく影響を受けなかった。薬剤科主任は週報に一行書いた。「名詞の別名を番号の檻に閉じ込めれば、人は自由になる。」

薬舗は後に对照表を公共規範にした。すべての薬材の全名、略称、番号を公告欄に貼り、新入りはまず三日間暗記する。老医師と若い医師の間で全名を書くか略称を書くかの論争はこれで収まった。番号を一欄埋めれば、何を書いても一致する。名前の長短を争う者は習慣を争い、名前の混乱を解決する者はシステムを使う。

Key-Value Cache(正式名称)

Transformer 推論において計算済みの Key と Value 行列をキャッシュし、各生成ステップで全履歴トークンのアテンションを再計算するのを避ける仕組み。論文や正式文書ではこの正式名称がよく使われる。

KV Cache(略称)/ Key-Value Cache

Key-Value Cacheと完全に同じキャッシュ機構を指す。エンジニアリングコード、アーキテクチャ図、日常会話ではこの略称が習慣的に使われる。製品ドキュメントや調達資料では両方の表記が流通しており、技術実装に違いはない。

物語の対応

  • 生地黄と生地:同じ対象を全称と略称で書く二つの表記
  • 購買マネージャーが二種類の薬として発注:文書中の同物異名が操作のずれを引き起こす
  • 監査チームは二日かけてデータを照合:マルチシステム環境で名詞が統一されていない場合の追跡コスト
  • 統一番号 A037:標準対照表を構築し、正式名称と略称を同じ識別子にマッピングする
  • 新しいマネージャーは中医の背景がなくても影響を受けない:対照表によりシステムの論理が人の知識から独立する
  • 正式名称か略称かを争うのは習慣の問題:統一規範が無意味な名詞論争を省く

技術文書とチーム協業規範に落とし込む

チーム内に用語対照表を作り、Key-Value Cache、KV Cache、および考えられる訳語(キー値キャッシュ)を同じ概念番号または主名称に統一してマッピングする。コードコメントとアーキテクチャ図では略称KV Cacheを推奨し、正式な論文や対外文書では正式名称Key-Value Cacheを使うが、すべての文書は主名称を通じて同じ定義にリンクする。新メンバーの入社時に対照表を一通り確認すれば、その後の「あなたの言うKV CacheはKey-Value Cacheのことですか」という確認を何度も省ける。調達や監査資料における名詞の統一は特に重要である——一つの仕組みが二つの独立した機能として見積書に記載されるのを防げる。

京ICP备2026014272号