← 返回概念解读

Concept Fable精修版

推测编辑

Speculative Editing · Inference

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

审稿房先改边角,大编辑只看真正变动处

城中书坊替商会改合同。大编辑熟悉条款,能看出细微风险,但每次都从第一页逐字改到最后一页。

合同多起来后,许多改动只是日期、称谓和固定免责声明。大编辑仍亲自走完全篇,真正复杂的责任条款反而排在后面。

掌柜先让客户少改几处,又要求编辑套模板。模板能省一点,但只要原文和目标文本交错,大编辑仍要慢慢确认每个位置。有人让初级编辑直接提交成稿。结果他们在关键责任段落改错一个词,后面赔了一笔钱。

后来审稿房改成两步。初级编辑先按常见模式提出一份“可疑似完成”的修改稿,标出哪些位置只是机械替换,哪些位置可能需要大编辑判断。

大编辑不再重写所有文字,而是验证这些修改能否被接受;可连续接受的段落直接通过,有分歧的地方才回到逐字编辑。

这套办法尤其适合“旧稿改新稿”的任务。大量文字本来就会保留,系统只要聪明地猜出哪些片段能沿用,哪些片段要改。

掌柜明白,编辑类生成和从零写作不同。它的机会在于利用已有文本,让快助手提出变更,再由强编辑验证。

后来书坊接到代码补丁、合同修订和客服改写时,都会先判断可复用的原文比例。原文越稳定,投机编辑越有价值。后来书坊把这套办法用于一份变化很大的契约,效果反而差。初级编辑猜得太多,大编辑不断退回,时间比从头审还长。掌柜于是加了一条判断:只有旧稿和新目标大部分相近,才让助手先猜;若结构全变,就直接交给大编辑规划。投机的价值来自可复用的原文,不来自盲目提前动笔。后来大编辑要求每次都记录接受率。若十处猜测只对三处,就说明助手不该先跑;若八处能接收,才值得继续。猜得准,才叫省力;猜不准,只是多一道返工。先判断相似度,再谈速度。

揭示

这个故事讲的是:推测编辑

推测编辑是把推测解码的思路用于编辑任务:由更快的助手先提出局部修改或延续,再由更强模型验证、接受或修正。

它适合大量原文可以保留、只需局部修改的场景,比如代码修改、文档修订、结构化响应修复。目标是减少强模型逐字处理的等待时间,同时保持结果质量。

隐喻映射

  • 大编辑:target model or high-quality editor
  • 初级编辑:assistant draft model
  • 旧稿和修改稿:editing task with reusable source text
  • 机械替换:high-confidence accepted spans
  • 责任条款:low-confidence spans requiring target verification
  • 连续通过:accepted speculative edits
  • 最后洞察:Speculative Editing 利用原文稳定性加速修改任务,不把所有编辑都当成从零生成

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

speculative decodingassistant modeldraft-edit