← 返回概念辨析

Concept Contrast Fable

模型出问题换个备用的和系统出问题还能凑合用

模型回退只换掉出问题的模型,降级需要整个系统在部分功能失效后仍能提供有限但可用的服务。设计高可用 agent 时,换备用模型只能解决引擎故障,降级能解决依赖链上的任何一环断掉。

寓言

换帆和破船靠岸

山路邮驿原本靠一套熟办法运转。主路通畅时,驿站长派快马把整袋信送到,按旧节奏办事时很少出岔子。

后来事情变大了。主路塌方后信件仍要送达,催促声从清晨排到傍晚。新人以为这是数量问题,只要多派人、多加钟点就行;老人却看见许多细节已经越过旧办法能承受的边界。

掌事人试了第一个办法:临时找另一匹最快的马。开头几天确实看见起色,队伍短了些,外人也觉得这门手艺终于跟上了新场面。

可麻烦很快换了样子。有人为了赶进度省掉检查,有人把不合适的活硬塞进旧流程,最熟练的人反而被琐事拖住。出错处不总在明面上,常等到交付之后才露出来。 旧账本还能说明来路,却说不清下一步该怎么改。

掌事人又加了规矩,要求每个人多签字、多回报、多补一层保护。纸面看起来周全,现场却更慢;师傅们忙着证明自己没错,真正的裂缝仍在原处扩大。旁观者只看到结果忽好忽坏,现场的人越来越难判断该先救速度、质量,还是责任。 每个人都觉得自己多做了一点,整件事却没有因此更稳。

一位沉默的老匠人把几次失败摊在桌上。他没有责怪谁,只让大家看同一个细节:新限制从来没有进入日常练习,只在交付前突然冒出来。他把几次返工按发生顺序排开,众人才发现,失误总在同一个拐角被放大。

于是作坊改成了新规:若快马也无路,就改送摘要、延后重件、先保急信。刚开始人人不适应,手脚都像被拴住;但几轮下来,粗糙的捷径被挡住,真正稳妥的动作慢慢留下来。

再遇到同样的压力时,交付没有变得花哨,却明显更可靠。驿站长终于明白:换一条同等路是一件事,降级保核心是另一件事。若等到最后才补救,代价往往已经埋进前面的每个选择里;这条新路没有消灭成本,却让成本提前现身,方便在还能改动的时候被处理。

模型回退

当主模型不可用、超时或质量不达标时,自动切换到备用模型或返回预设结果,是模型层的可用性策略。

降级

系统部分功能或依赖失效时,整体仍以降低能力、减少功能或简化路径的方式继续提供有限服务。

故事对应

  • 换备用帆:模型回退,在模型层替换故障组件
  • 船舱进水、水泵减半、导航断续:多系统同时受损的复杂故障
  • 整船降级方案:降级策略中对资源、功能和路径的重新分配
  • 降级表:预设每个依赖失效后的触发条件和退化行为
  • 先判断是帆坏了还是船坏了:先定位故障层级再选策略

落到 Agent 高可用架构

Agent 系统的高可用不能只靠模型回退。要同时规划检索、工具、审批、存储、消息通道等各层的降级行为。比如检索挂了要不要用对话历史硬答,工具超时要不要跳过并告知用户,审批超时要不要走紧急通道。