寓言故事
猜谁进过学堂的考官
城里有座私塾训练答题木偶,学生交来的作文都被用来示范。木偶答得越像学生,先生越得意。有个外乡考官拿着一篇旧作文来问木偶。木偶对这篇文章异常自信,还能补出几个原句附近的细节。
考官没有偷到账册,却推断这篇作文进过私塾训练簿。若作文内容涉及病情、投诉或商业秘密,麻烦就不小。
先生先把学生名字从作文上剪掉。可木偶记住的是文本模式,不只是署名。私塾开始控制训练材料:去重、限制敏感样本、降低过拟合,比较木偶对练习内外文章的熟悉差异。
对外问答口也改了。木偶不再返回过细置信度,异常重复问题会被限流,高风险查询进入审计。再有考官拿旧作文试探,木偶给出稳健而不过度自信的回答,无法轻易暴露这篇是否被见过。
考官后来又换了问法,不直接递旧作文,而是问几个细节。木偶仍表现得过分熟悉。先生这才紧张:外人不必拿到原文,也能从反应里猜出某篇文章是否进过训练簿。
先生先以为这是木偶聪明,能从文风猜到作者。考官又拿来十篇陌生作文,木偶只对其中两篇露出同样笃定的神情,甚至能说出被涂掉的比喻。那不是一般判断,更像它曾在课堂上反复见过这些纸。
私塾补救时,先生先命令木偶别背原句。可木偶仍会在被追问时泄露:它对见过的文章更自信,对没见过的文章含糊。后来私塾不再把学生原稿随便喂给木偶,答题也要检查它是否暴露某篇文章曾在书箱里出现过。考官最后提醒先生,泄露不一定是把整篇文章背出来。有时只是异常肯定、特殊细节、对某篇旧文的熟悉感,就足以让旁人猜出谁的文字进过书箱。
先生才明白:外人即使听不到原文,只要能判断某篇私文曾进过训练簿,隐私也已经露了口子。