寓言故事
档案馆学会在开卷前先压短信箱
师爷替县令整理案卷,原卷一抱上堂,县令半天翻不到要点。师爷起初靠厚厚的前情材料办事,熟人熟路,日子小的时候很少出错。师爷发现,案卷装得下不代表判断做得好;真正有用的是能改变当前决策的事实、约束、出处和未决问题。
后来案子越审越久,旧证词、重复闲话和无关家事挤在一起。材料越堆越长,重复叙述会挤掉关键证据并增加 prefill 成本;盲目截断又可能删除决定性日期和条件。
第一次修补很急:他先把卷宗随手剪短,结果把关键日期也剪掉了。按页数硬剪卷宗让输入变短,却把关键日期和约束一起删掉。可新毛病跟着出来,大家只盯最容易被看见的地方,远处的小偏差越积越深。
后来他按当前问题筛选、合并和摘要,只保留影响判断的骨架,并标出来源与压缩理由;必要时仍能回到原卷复核。
后来师爷按线索重整:保留人物、争点、证据出处和未决问题,重复说法只留最清楚的一份。这一步麻烦,起初还拖慢了工期;可几轮之后,返工少了,师傅也不再凭脾气改规矩。案卷变短之后仍保留了判断骨架,县令既读得快,也能追问到原始证据。
从此上下文优化不再是越短越好,而是在 token、延迟、KV cache 与证据完整性之间做可审计的取舍。
县令读得快了,追问时也能回到原卷核对。从那以后,材料太长时,删减不是乱砍,而是留下会影响判断的骨架。