寓話
修稿師が一ページのノイズから徐々に文を浮かび上がらせる
出版坊の旧書記官は文章を書くとき、いつも最初の文字から最後の文字まで書いていた。前で書き間違えると後ろもそれに引きずられ、ついには一篇全体が道を外れたようになる。坊主は新しい修稿法があると聞いた。まずページ全体をノイズのようにしてから、少しずつノイズを消し、何度も修正する中で文を浮かび上がらせる。徒弟たちは最初は理解できなかった。なぜ左から右へ直接書かないのか。修稿師は言った。ある種のタスクは次の語を自然につなぐことではなく、段落全体の構造を同時に合理的にすることだ。最初の試験は企業報告の要約だった。旧書記官は前半で口径を決めると後半で戻って調整するのが難しかったが、新修稿師は何度も全体的に修正でき、見出し、結論、根拠をより一致させられた。
しかし新しい方法にも厄介さがある。各ステップのノイズ除去には計算が必要で、フローの制御方法、ツールの接続方法、事実が壊れないようにする方法は、従来の続き生成よりも難しい。
職人はまずそれを普通のチャット仕掛けとして使ったが、効果は安定しなかった。それが得意とするのは同じリズムではなく、インターフェース、サンプリング、評価方法をすべて再設計する必要がある。
後にチームは、それを全体書き換え、並列生成、制約付き編集に適したタスクに置き、旧書記の逐字続写を模倣させることを強制しなかった。
坊主は、これが「より上手に話す」代替品ではなく、異なる言語生成の経路であることに気づいた。それは遅延構造、推論コスト、制御可能な編集方法を変える可能性がある。
出版工房は最終的に二種類のツールを残した。一つは順序立てた続きの執筆が得意で、もう一つは混乱から徐々に全体を復元するのが得意である。タスクに応じて異なる生成メカニズムを選ぶ。
新修稿師は、冒頭と結末が互いに絡み合う稿を最も得意とする。もしタイトルが変われば、本文の証拠もそれに合わせて変えねばならない。もし結論が縮まれば、前の鋪陳も引き締めねばならない。逐字書記官はしばしば末尾まで書いて、初めて前を直すべきだと気づく。
坊主は後に二種類の仕事に看板を掲げた。急ぎの返信は順序書記官に、全体の推敲・補完・制約付き書き換えは修稿師に。どちらも字は書けるが、同じ道ではない。道を間違えれば、工房は時間と予算と検収方法を誤る。