寓話
新規則を暗記したら、古い道はすべて忘れた
宿駅の信使アテイは北路の山道をよく覚えていたが、後に南路の水路を専門に学ぶよう命じられた。老駅長は当初、新しく身につけた路線で用を済ませた。顔なじみの道なら、日々が小さければ誤りは少ない。駅長は気づいた。アテイが南路を学んだことは能力の増加を意味しない。もし新たな訓練が北路の記憶を覆ったなら、モデルは一つの技を別の技と引き換えにしただけだ。
後に阿亭は南路を飛ぶように走ったが、北路に戻るとどの橋が冬に閉鎖されるかを忘れていた。新しいタスクのサンプルが集中するほど、古いルートのパフォーマンスは急速に低下する。南路の成績だけを見れば、すでに起きた破滅的忘却を平均点の背後に隠してしまう。
最初の補修は急だった:駅長は南路をもう十回練習させ、一本を熟す方が二頭で揺れるよりましだと思った。南路を繰り返し練習して熟すと単項成績だけが上がったが、北路の重要な分岐は新しい記憶に薄められた。しかし新しい毛病も続いて出て、皆は最も見えやすい場所だけを見て、遠くの小さな偏差はますます深く積もった。
彼は新旧のルートを混合して訓練し、重要な旧サンプルを保持し、定期的にリプレイし、二種類のタスクを別々に評価した。学習のたびに、新しい能力が古い能力の劣化を代償にしていないか確認した。
老駅長は旧路と新路を混ぜて配車し、さらにいくつかの重要な分岐図を残し、新しい道を学ぶたびに旧路を走って一度検証した。この手間は煩わしく、当初は工期を遅らせもした。しかし数回を経て、手戻りは減り、師匠も気まぐれで規則を変えなくなった。駅は新旧の路線をともに守り、学習の利益は既存能力を消し去ることを代償にしなくなった。
これ以降、新たな能力の追加はもはや古い記憶を消す代償を伴わない。継続的学習は新タスクの便益と旧タスクの下限を同時に守らなければならない。
阿亭はそこで悟った。新しい技能を学ぶときに古い技能を押し流してしまえば、駅はただリスクの種類を変えているだけだ。それ以来、見識を広げるときは、過去に本当に役立った記憶を保持するようにした。