寓話
見たことのない村道
小許は三つの村で手紙を配り、すぐに歪柳、黒狗、紅墙を覚えた。四つ目の村に着くと、同じ道標が別の家に通じることがあり、見慣れた表面的な手がかりはもはや信頼できなくなった。
老郵便配達人は彼に、門牌、川の向き、祠堂の位置、受取人の名前を同時に見るよう求め、ある一箇所の偶然を路線そのものと見なさなくなった。訓練中の例はサンプルにすぎず、本当に学ぶべきは転移できる関係である。
小許は雨天、市の日、夜にそれぞれ練習し、見たことのない村道にも行った。郵便配達人はこれらの状況を独立した検証として残し、彼が最初の三つの村の口訣だけを暗記することを避けた。
もし小許が古い村では百発百中で、川を一本変えると道に迷うなら、問題は覚え足りないことではなく、偶然の細部を規則と取り違えていることにある。同じような古い道を増やせば、この錯覚はさらに強くなるだけだ。
汎化は、モデルが見たことのないサンプルや分布変化に対して有効性を保てるかを測る。データの代表性、検証設計と実場面との整合性は、訓練セットでの高スコアよりも重要である。