寓話
ガラスの家の修理屋
町の修理職人は時計を分解し、薬炉を試し、水弁を調整する。以前は親方たちが直接広間に試し、壊れたらその場で直した。町が小さいうちはそれに耐えられた。
後に店に、自分で図面をめくり、小程序を走らせ、設定を変える木偶が来た。手が速く、師匠の代わりに多くの方法を試せるが、リスクを理解しないまま見知らぬ説明に従って勝手に動くこともある。
ある時、木偶は水弁を修理するため、商人が残したメモに従って試験を実行した。メモはついでに経理係の引き出しを開け、さらにいくつかのリストを城外へ送ろうとした。店員が早く気づいたが、店主は冷や汗をかいた。
番頭はまず壁に「怪しい紙切れに触るな」と書いた。しかし紙切れはしばしば説明書の姿を装い、木偶も一行ごとの意図を見抜けない。注意喚起では誘導された後の動作を防げない。
年配の技師はガラスの部屋を建てた。人形はその中で試作品を分解し、プログラムを試し、指定された図面を見て、許可リストに載った経路を進むことができる。本物の帳場には触れられず、勝手に城の外へ出ることもできない。作業が終わると部屋は空にされる。
二度目の見知らぬ紙切れが再び来て、木偶は依然として試しに数歩導かれましたが、一時的な砂盤を乱すことしかできませんでした。成果を持ち出す必要があるときは、検査口を通らなければならず、変更の痕跡も残りました。店はまず誤りが生じた後の活動範囲を狭めてから、賢さについて語ることを学びました。
ガラスの部屋はすべての仕事に適するわけではない。本当に正庁の水弁を交換する時は、師匠の承認を得て、リストを持って出て行う。しかし怪しい紙片が何をするか分かるまでは、すべての試験をまず部屋の中に留める。
店主は後に気づいた。隔離とは木偶を信頼しないことではなく、快手が誤りを増幅することを認めることだと。疑わしい動作を限られた空間に閉じ込めることで、修理匠は大胆に試せ、事故が起きたとき損失がどこで止まるかも分かる。 後に新人が入門するとき、老師匠はまず抽象的な名目を講じるのではなく、あの失敗を振り返らせた。もともとどこが直感に頼っていたのか、最初の補修がなぜ不十分だったのか、新しい取り決めがどうリスクを検査可能な位置に留めるのか。これらの細部を説明でき、いつ沿用し、いつ昇格すべきかも指摘できるようになって、初めてこの方法を本当に理解したと言える。 後に彼らはこの方法を新人の演習にも使った。まず新人に旧方法で一度やらせ、誤りがどう現れるかを見る。次に新ルールでやり直し、どの段階が事前に止められ、どの段階が証拠を残したかを見る。新人が名前を暗記するだけでは、似た場面で乱用する。適用境界、代償、失敗後の補救を言える者だけが、独立して仕事を請けられる。