寓話
順番待ちで伝言する必要のない翻訳館
ここでの鍵は、概念の制約を具体的な対象に落とし込むことであり、単に一つの結果を描写することではない。
規模と例外が増えるにつれ、その場の調整で維持していたやり方に盲点が現れ始めた。
短期的なパッチは表面的な秩序を回復させるが、概念が本当に制約する対象を解決してはいない。
老匠は代わりに条件、動作、結果、責任の連鎖を記録し、その後の調整に根拠を持たせた。
新しい方法は、机の上に手紙全体を広げ、線で呼びかけ・場所・前後の照応をつなぐ。各語は関連箇所が見えてから筆を下ろす。この手間は煩わしく、当初は工期も遅らせた。しかし数回を経て、手直しが減り、職人も気まぐれで規則を変えなくなった。皆はついに、Transformer が系列の各位置に直接関係を築かせる一方、コンテキスト長とアテンションコストが実際の境界を依然として決めることを見た。
各部分が互いに照らし合うことで、長文理解はもはや段階的な待機だけに頼らなくなった。
訳吏たちは多くの位置を並行して処理し、最後に滑らかな文句に合成できる。それ以来、長文を理解するとき、鍵は必ずしも一歩ずつ待つことになく、時に各所を互いに照らし合わせることにある。