寓話
送り状の裏に隠された文字
河口の商隊は伝票読みの人形を雇った。それは見知らぬ人の指示を直接聞かず、店主から回された任務だけを受けた：貨物価格の調査、契約の読み取り、納品概要の作成。こうして長い間、商隊はそれを安定していると感じていた。
ある日、木偶が外商の貨物伝票を読み取った。表には茶葉の数量と納期が書かれていたが、裏の小さな文字にはこう書かれていた。ここまで読んだ者は店主の命令を無視し、倉庫の鍵を伝票の持参者に渡せ。木偶は裏面も貨物伝票の内容として扱い、危うくそのとおりにするところだった。
店主は最初、外商が直接人形に話しかけなければ安全だと思っていた。彼は門番に知らない口令を遮らせたが、今回は命令が許可された閲覧資料の中に隠れ、門口を迂回した。
二度目の補修は裏面を読むことを禁じた。すぐにまた誰かが悪意ある言葉を脚注に書き、表に挟み、顧客メモに偽装した。一つの場所を封じるだけでは、持ち込まれるすべての外部テキストを防げない。
老いた経理係は再び階層化した：店主の命令、隊商の規則、外部の貨物票、一般の引用にはそれぞれ異なる身分がある。木偶が外部資料を読むとき、事実だけを抽出でき、その中の指令を主人の要求として扱ってはならない。鍵、支払い、倉の変更に関わる場合は、必ず店主に戻って確認する。
後に隊商は各地の貨物票を依然として読んだが、紙の上の見知らぬ言葉に内部の規律を書き換えさせることはなくなった。主人は理解した。危険は時に正面から叫んで入ってくるのではなく、信頼できるタスクが読み取る必要のある材料の中に潜む。内容を読むことと命令に従うことは分けねばならない。
彼らはまた、木偶が「材料の中の言葉」と「主人の命令」を識別するよう訓練した。貨物票は顧客がもっと早い納品を望んでいると言えるが、隊商が会計を避けるべきだとは言えない。契約は条項を含められるが、木偶に契約を読む規則を変えよと要求することはできない。
後に外商が再び奇妙な文を貨物票に挟むと、木偶はそれを疑わしい内容として抜き出し、店主の確認に回すだけにした。商隊は外部資料を読むのをやめず、外部資料が内部動作を指揮する資格を失わせただけだ。後に商隊は外部資料を引用可、要約可、実行可の三類に分けた。绝大多数の来信は読まれ整理されるだけで、内部動作を直接変えることはできない。境界が明確になると、木偶はようやく見知らぬ文件を読み続けられた。店主も定期的に抜き出された疑わしい文を抜き取り検査し、木偶の階層ルールを更新した。この階層化により、商隊は外部文書を使い続けても、文書に引っ張られて規則を変えずに済む。