寓話
河口のある商队でいつも間違って動かされるあの貨札
河口の商隊には長年使ってきた方法がある。経理係は毎朝早くに荷札を車夫と買付人に配り、受け取った者がそれぞれの仕事に向かう。小さな町で、事も急がないため、この方法はほとんど失敗しなかった。
後に商隊は分貨銅櫃を一台買い、貨物札に従って自動で車を割り当て、積み位置を並べ、支払いを促せるようにした。店主は経理係に一件ずつ承認させるのではなく、高台に座らせて全体盤を見せ、異常を見つけたら止めさせた。
最初の事故は、割れ物の陶磁器がでこぼこした山道に割り当てられたことだった。銅櫃は距離が最短で車を出し、経理係はその日、総数が立派なことだけを見て、個々の荷札のリスクに気づかなかった。車が城に戻る頃には、三箱の陶磁器はすでに割れていた。
店主はまず経理係にもっと注意深く見るよう求めた。しかし貨物伝票は一日に何百枚もあり、人が全体盤を見つめ続けるとすぐ疲れる。本当に危険な異常は普通の数字の中に隠れている。人をそばに置くだけでは、人が適時に介入できることにはならない。
後に隊商は規則を再設定した。普通の布は自動で流れ、壊れやすいもの、貴重品、経路変更、時間超過、顧客苦情は赤信号を点す。経理係はもはや各ステップを審査しないが、赤信号を処理し、サンプルを抜き取り検査し、配車の境界を調整しなければならない。
新しい制度の下でも、銅櫃は依然として大部分の通常の手配を担い、人は監督と是正を担当する。店主は理解していた。人がループの外に立つとは、完全に離れることでも、逐次手書きすることでもない。鍵は、システムがいつ人を呼び戻すべきかを知っていること、そして人が本当に結果を変えられるかどうかである。
経理係も後に本当の制御レバーを手に入れた。彼は赤信号を見るだけでなく、ある種の配車を一時停止し、壊れ物の閾値を上げ、ある路線に人手による確認を要求できた。傍観しかできなければ、監督はただの飾りにすぎない。
キャラバンは振り返りで三つの方式を区別した：人が一件ずつ承認する、人がまったく関与しない、人が横で見ていて異常時に介入できる。第三が最も省力で、最も誤解されやすい。それにはシステムが警報を出し、人に権限があり、記録が介入理由を説明できることが求められる。後に会計係は普通の布包みの一つひとつを監視する必要はなくなったが、赤信号のたびに真剣に対応した。人がループの外に置かれるのは、些細な承認から解放されるためであり、重要なリスクを無人にするためではない。会計係の位置は高くなったが、責任は消えず、一件ずつの捺印から境界を見張ることに変わっただけだ。赤信号が多すぎれば境界の設定が悪いことを示し、少なすぎれば本当に危険なものを見落としているかもしれない。