寓話
門口の、誰も読まないのに皆が影響を受ける暗号札
公共文書館に一台の問答機があり、来館者の要求に応じて資料を調べられた。館員が書くプロンプトはますます長くなったが、機械は時々、館の形式に従わない回答をした。
館長はプロンプトが十分に詳細でないと思い、礼儀、手順、形式、禁忌をすべて冒頭の言葉に書き込んだ。冒頭が場所を取りすぎて、訪問者の本当の質問が入らなくなった。
誰かが問答機全体を再訓練しようと考えた。予算が高すぎ、しかも各部門はほんの少しスタイルを調整したいだけだった。
あるエンジニアはいくつかの暗号牌を作り、訪問者の質問の前に掛けた。牌の上には人が読める文ではなく、機械が学習後に識別できるソフト標識が書かれていた。
これらの暗号牌はサンプルで訓練されて生まれます。それらは機械の内部構造を変えず、入力の先頭に学習可能な一組のヒント信号を提供するだけです。
当初、暗号札が少なすぎると形式を制御できず、多すぎると資料のスペースを圧迫した。エンジニアは繰り返し試験し、その部門に適した長さを見つけた。
公文書館は部門ごとに異なる暗号札を用意する：法務は慎重に、営業は簡潔に、カスタマーサービスはまず明確化を。機械本体は同じ一台のままだ。
後に、自然言語プロンプトと暗号牌を混ぜて改変する者が現れ、問題は再現しにくくなった。館長は各牌にバージョン、訓練サンプル、評価記録を持たせるよう求めた。彼は最後にこう言った。プロンプトも訓練され得る。ただし訓練で生まれたプロンプトは人間の言葉のようであるとは限らないが、低コストの行動制御インターフェースになり得る。後に、さらに厄介な仕事が来た。表面的には旧問題の拡大に見えるが、実際にはプロセスに隠れた隙間をすべて押し出した。誰が先に引き継ぐか、誰が変更できるか、誤りが出たときどう前のステップに戻るか。かつては顔なじみの暗黙の了解でやり過ごしていた場所が、今はすべて明確にしなければならない。主事者は皆にもっと気を遣えと促すのではなく、現場をもう一度歩き直した。彼は各引き継ぎ、各失敗、各補救を記録させ、どこが単に遅いだけか、どこが結果を誤って損なうか、どこが一度誤ると追跡しにくいかを明らかにした。新しい規則が広まってから、最初の数日はしっくりこなかった。検査が一つ増えたと嫌がる者もいれば、古い経験が侮辱されたと感じる者もいた。しかし次に異常が現れたとき、皆は初めて痕跡をたどって問題の発生位置を見つけられ、結果を囲んで互いに推測するのではなくなった。