寓話
画院では各文字を描くことから、段落全体を描くことへと格上げされた
町に似顔絵師の一団がいた。最も初期の一団は字画師と呼ばれ、毎日一つのことをしていた。各文字に一組の座標を与えるのだ。例えば「河」の字は、「黄河」に現れようと「滑河」に現れようと、蔵書館のすべての書で統一的に一組の数字を使う。座標の由来は統計である。この字が町のすべての書で他の字と隣接する頻度だ。「河」と「水」はよく隣り合うので座標は近づき、「河」と「机」はほとんど同じ枠に現れないので座標は遠ざかる。
後に町に句画師がやって来た。彼は一文字ずつ描くのではなく、文全体を見て、文全体に一組の座標を与える。「黄河在城北拐了个弯」——句画師の描き方は一気呵成で、文全体を飲み込んでから一組の数字を吐き出す。この文と「大河从城北弯过去啦」の座標は近い。字面は大きく違うのに。「黄河」と「淮河」は字画師のところではどちらも「河」の字を含むため近いが、句画師のところでは遠い。文全体で全く別のことを述べているからだ。
教書先生は蔵書館の検索システムを作るにあたり、まず字画師の路線を使った。「夏季の雨水」を検索すると、システムは「夏季」「の」「雨水」の三枚の画像を寄せ集め、庫の中で座標が最も近い本を探した。結果として戻ってきたのは『冬季の雪花』だった——「冬季」と「夏季」の座標は近く、「雪花」と「雨水」の座標も近く、「の」は完全に同じだった。先生は首を振った。字は間違っていないが、本は完全に間違っている。
句画師の方法に変えると、「夏季の雨水」を検索すると文全体の画像が得られる。近いのは《冬季の雪花》ではなく、《江南梅雨季》と《六月雷陣雨防範指南》である。先生は喜びつつ問い始めた。一文はどれくらいの長さがちょうどよいのか？短すぎると字画師の路線に退化し、長すぎると描かれる座標がぼやける。句画師の答えは自作の物差しだった——話の長さはちょうど一つの完全な意味を包む必要がある。
町にはその後、さらに多くの似顔絵師が流れ込んできた。写真を描く者、音声波形を描く者、コードの一部を描く者もいる。字画師は自分がより大きな画院の中の小さな工作室にすぎないと気づいた。すべての似顔絵師が使う数学的道具は一揃い——高次元ベクトル——だが、訓練コーパスと最適化目標はまったく異なる。
蔵書館の検索システムは後に三種類の画師を抱えることになった：字画師は正確なマッチングを行い、珍しい用語を漏らさず検索する。句画師はセマンティック検索を行い、概念を検索すると異なる言い回しの段落を見つけられる。図画師はクロスモーダルを担当し、挿絵を一枚撮影すれば対応する書頁を見つけられる。
画院の徒弟規則に新しい項目が増えた。字画師は祖伝の技で、語の共起頻度から意味を推し量る。句画師は父の世代の発明で、文脈の文脈から意味を推し量る。図画師、音画師、碼画師は孫の世代で、画像を文字からあらゆる系列に変えられるものへと広げた。同じ数学的道具が異なる粒度で展開し、それぞれ異なる階層の類似性を捉える。