寓話
帳場が小さな木片で課金するようになってから
ここでの鍵は、概念の制約を具体的な対象に落とし込むことであり、単に一つの結果を描写することではない。
規模と例外が増えるにつれ、その場の調整で維持していたやり方に盲点が現れ始めた。
短期的なパッチは表面的な秩序を回復させるが、概念が本当に制約する対象を解決してはいない。
老匠は代わりに条件、動作、結果、責任の連鎖を記録し、その後の調整に根拠を持たせた。
老訳師は彼に文字をよく使う小さな塊に切ることを教えた:時には1文字で1塊、時には半語で1塊、句読点も場所を占めることがある。このステップは面倒で、最初は工期を遅らせもした。しかし数ラウンド後には手戻りが減り、師匠も気まぐれに規則を変えなくなった。ついに皆が見た:Token 数は利用可能なコンテキスト、コスト、スループットを決め、Agent システムは入力ソースごとに個別に計量すべきである。
まず小片を数え、それからコンテキスト、予算、出力上限を整える。
徒弟はついに理解した。長短は肉眼の文字数だけでなく、どれだけ運搬可能な小片に切り分けられるかで決まる。それ以来、文字は工房に入る前に小さな単位に分割され、コストも容量もその小さな単位に従うようになった。