寓話
各袋の種のそばにある小冊子
薬材店の隣に種子倉があった。以前、倉庫は袋に名前と重さを書くだけで、使う者がそのまま持ち去った。収穫が悪いとき、種子がどこから来て、何が混ざり、どの土地に適するかを誰も知らなかった。
新しい農夫は北方の種の袋を湿った低地にまき、大規模にカビが生えた。彼は種が悪いと不平を言ったが、倉庫は採集時期、処理方法、適用条件を提示できなかった。倉管はまず袋により多くのラベルを貼った。ラベルは増えたが、依然として断片的だった。産地を書くもの、年を書くもの、用途を書くものがあり、統一された構造がなかった。
老農は種子の袋ごとに小冊子を添えるよう求めた：なぜ収集したか、誰が収集したか、どの品種を含むか、欠落はないか、どう洗浄するか、どんな用途に適するか、どんな用途を禁じるか、誰を傷つける可能性があるか。
この冊子は使い方を変えた。新しい機械を訓練する前に、エンジニアはデータが対象顧客をカバーしているか判断できる。コンプライアンスチームは認可とプライバシーを確認できる。プロダクトチームは偏りを識別できる。
ある時、機械の挙動が異常になり、小冊子がチームの役に立った。訓練データがほぼすべて繁忙期のカスタマーサービス由来で、閑散期の返品シナリオが欠けていたのだ。問題は機械の構造ではなく、データソースの偏りだった。倉庫はまた、冊子をデータ更新に合わせるよう求めた。新しいソースの追加、機密フィールドの削除、クリーニングルールの変更は、すべてバージョン記録を残さなければならない。
老薬師は倉庫番に別のやり方をさせた。種の袋ごとに、同じ形式の小冊子を必ず添えさせた。誰が採ったか、いつ干したか、何が混ざったか、どの畑で試し植えしたか、誰が使ってはいけないか。
最初の冊子は非常に煩雑に書かれ、農夫は面倒だと嫌がった。しかし一袋の高山の種が低地に届く前に、学徒が冊子をめくって「湿った土地はカビやすい」と見つけ、すぐに品種を替えたことで、皆は静かになった。この小さな事故で人々は立ち止まり振り返った。彼らは急いでより耳障りのよい言い方に変えるのではなく、誤った入口、誤解されたルール、保持すべき境界を一つずつ書き出した。
後に種子が問題を起こし、争いはずいぶん減った。人々は袋の名が聞こえがよいかどうかばかりを問わず、まずその袋の中身の来歴、境界、かつて残した傷痕を見るようになった。種子倉は最後に悟った。データセットは黙った材料の袋ではない。説明書がなければ、その後の訓練と評価のたびに賭けをしていることになる。