← 返回概念解读

Concept Fable精修版

纯解码器

Decoder-Only · Architecture

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

只有回信房的商会

北桥商会曾有三栋楼:读信楼、核账楼、回信楼。后来他们发现大部分客户要的不是独立报告,而是直接能执行的回复、清单、代码和下一步动作。

新会长决定把系统改成一栋更大的回信房。所有资料、问题、规则和历史记录都排进同一张长桌,书记从左到右读完,再继续往后写。

一开始,这看起来太粗糙。没有专门读信楼,系统怎么理解复杂材料?会长的补救是不断加前置说明,结果长桌越来越长,书记还没写就先累了。

第二次修补是把所有资料都塞进去。客户很满意“什么都给了”,账房却发现每封信的成本上升,旧资料还会干扰新任务。

真正的改法不是恢复三栋楼,而是学会把任务、资料、工具结果和输出放进同一条序列里,并用因果顺序组织它们。

这样一来,回信房既能读,也能写,还能按示例模仿格式。它不一定是理解任务的唯一结构,却成了大规模通用生成最简单、最强的路线之一。

商会也付出了代价:上下文管理、检索选择、系统提示、工具返回和输出预算都必须更严,否则一切都会进入同一条昂贵的长桌。

会长最后说,这栋楼的优势是统一,风险也是统一。所有事情都变成续写问题后,谁来决定放进长桌的内容,就决定了系统的上限。后来商会也学会克制。并非所有纸都该铺上长桌,旧账、范例和规则要按任务挑选;也并非所有回信都该无限续写,到了该查柜、该问人、该停笔的时候,就要把长桌上的结果交出去。回信房因此既像读书处,也像写作处,但它的秩序始终来自前后相接的那条纸带。后来书记们还给长桌设了清理规矩。过期纸张及时撤下,关键指令放在前面,免得统一的房间变成什么都能吞下的杂物间。放什么进去,常常比房间本身更要紧。长桌有序,续写才稳。取舍清楚,它才不被旧纸拖慢。

揭示

这个故事讲的是:纯解码器

Decoder-Only 是只使用 Transformer 解码器堆叠的架构,现代 GPT 类大语言模型多采用这种路线。它把输入提示、上下文、示例和已生成内容都放在同一序列中,用自回归方式预测下一个 token。企业 Agent 中,这种架构适合通用生成和工具调用,但强依赖上下文工程、检索筛选、提示边界和成本控制。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 只有回信房:Decoder-Only 架构
  • 长桌:统一的 prompt/context 序列
  • 不断加前置说明:上下文堆叠式修补
  • 把所有资料塞进去:高成本、低选择性的上下文使用
  • 因果顺序:Decoder-Only 的生成约束
  • 读写合一:用同一模型完成理解与生成
  • 最后洞察:通用生成能力把上下文治理变成核心工程问题

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

causal attentionautoregressiveGPTnext-token prediction