寓言故事
每袋种子旁边那本小册子
药材铺旁有一座种子仓。过去仓库只在袋子上写名字和重量,谁要用就领走。收成不好时,没人知道种子从哪来、混过什么、适合哪块地。
新农夫把一袋北方种子撒到潮湿低地,结果大面积发霉。他抱怨种子差,仓库却拿不出采集季节、处理方式和适用条件。仓管先给袋子贴更多标签。标签变多了,却仍然零散:有的写产地,有的写年份,有的写用途,没有统一结构。
老农要求每袋种子附一本小册子:为什么收集、由谁收集、包含哪些品种、有没有缺口、如何清洗、适合什么用途、禁止什么用途、可能伤害谁。
这本册子改变了使用方式。训练新机器前,工程师能判断数据是否覆盖目标客户;合规团队能检查授权和隐私;产品团队能识别偏差。
一次机器表现异常,小册子帮团队发现训练数据几乎全来自旺季客服,缺少淡季退货场景。问题不是机器结构,而是数据来源偏了。仓库还要求册子随数据更新。新增来源、删除敏感字段、改变清洗规则,都要留下版本记录。
老药师让仓管换一种做法。每袋种子旁边必须放同样格式的小册:谁采的、何时晒过、混入过什么、试种在哪些地里、哪些人不该用。
第一批册子写得很烦琐,农夫嫌麻烦。直到一袋高山种子被送到低地前,学徒翻册看到“潮地易霉”,及时换了品种,大家才安静下来。这次小事故让众人停下来复盘。他们没有急着换一套更响亮的说法,而是把出错的入口、被误解的规则和需要保留的边界逐一写清。
后来种子出了问题,争吵少了许多。人们不再只问袋名好不好听,而是先看这袋东西的来路、边界和曾经留下的伤痕。种子仓最后明白,数据集不是一袋沉默的材料。没有说明书,后续每一次训练和评估都在赌。