寓言故事
会写信的书记员上岗以后
石桥镇原来只有三名书记员。镇民要写契约、回商函、查旧案,都排队等他们。书记员慢,但每个人的章、纸、柜子和责任都清楚。
镇里后来请来一批会自动写信的木偶。它们写得快,也能翻旧档案。第一天,队伍短了很多,镇长觉得旧流程可以全部撤掉。
复杂很快出现。木偶有时引用过期条款,有时把相似人名混在一起,有时为了显得完整,补上没人说过的细节。更麻烦的是,不同木偶、不同信纸模板、不同档案柜组合出来的结果都不一样。
镇长的修补是把每个木偶前面贴一句更长的训令:务必准确、务必谨慎、务必遵守规矩。训令越贴越长,出错时却没人知道是训令、档案、木偶版本还是审阅流程出了问题。
一次大客户收到错误契约后,镇里才停下来复盘。老书记员说,自动写信不是只买木偶,它需要一整套工坊:模板谁维护,档案怎么取,结果怎么测,成本怎么看,风险由谁放行。
他们建立了新的书信司。每个模板有版本,每个档案来源有标记,每次生成都留下那套机器、提示词、检索片段、工具调用和审阅记录。高风险信件必须经过评测和人工放行。
书信司还规定了月度体检:抽样看质量,追踪延迟和费用,检查哪些问题频繁触发回退,哪些模板已经不适合新的业务。
木偶仍然负责大量书写,但它们不再像散落的聪明工具,而是进入一条能部署、监控、评测、治理和回滚的生产线。镇长后来明白,大语言那套机器能写出答案,不能自动给企业带来可运营的系统;真正难的是让答案在业务里长期稳定、可控、可解释地交付。后来,又来了一件更棘手的活。表面看只是旧问题放大,实际把藏在流程里的缝隙都逼了出来:谁先接手、谁能改动、出了错怎样回到上一步,过去靠熟人默契混过去的地方,现在都必须说清楚。