← 返回概念解读

Concept Fable精修版

系统卡

System Card · Documentation

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

不只记录师傅,还记录整间作坊

镇上给每位师傅都做了工牌后,事故少了一些。可一次订单仍然出错:师傅没问题,错在派工流程、仓库工具和验收规则之间。

客户问责任在哪。管事拿出师傅工牌,证明师傅手艺合格;仓库拿出工具说明,证明接口正常。可没人能解释整个系统如何被设计、评估和控制。

镇长先把所有文档装进一个柜子。资料很多,仍然不像一份能让外部审查者理解系统风险的说明。

后来他们写了作坊总册:作坊目标、客户、师傅、工具、货物流向、钥匙、风险、补救办法、试工结果、人工看守和已知限制。

总册让讨论从单个师傅转向整体交付。一名接待伙计的风险不只来自口才,还来自资料柜、外部工具、钥匙、流水记录、换班流程和老师傅接手。

上线评审时,团队按总册逐项检查:哪些能力可以公开承诺,哪些失败模式有监测,哪些场景必须拒绝或升级。作坊也因此少了许多争吵。以前出错后,大家各自证明自己那一段没坏;现在先看整条责任链在哪里断裂,再决定修工具、修流程、修权限,还是修验收。

总册也要随系统变化更新。换师傅、加工具、扩客户、改数据源,都会改变风险面。外部审查者再来时,不再被带着逛一堆分散柜子。他先看总册,知道这间作坊要服务谁、哪些门会上锁、哪些活必须让老师傅接手,再抽查对应证据。

镇长最后明白,企业买到的不是一位师傅,而是一套会影响现实业务的系统。系统级说明必须覆盖整体责任链。后来管事把这次经验写进日常规矩:先看场景,再看边界,最后看失败时谁能接手。只有这些都清楚,漂亮演示才会变成可交付的工作。

揭示

这个故事讲的是:系统卡

System Card 是描述已部署 AI 系统的能力、组成、风险、缓解措施、评测结果、适用边界和监督机制的文档。它比 Model Card 更关注端到端系统,包括模型、RAG、工具、权限、数据流、用户交互和运营控制。

企业 Agent 上线时,System Card 可以作为产品、合规、客户信任和审计材料,帮助外部人理解系统能做什么、不能做什么、风险怎么被控制。

隐喻映射

  • 师傅工牌:Model Card
  • 作坊总册:System Card
  • 模型、工具、数据流和权限:端到端 AI 系统组成
  • 上线逐项检查:系统级风险评审
  • 随系统变化更新:部署变更会改变系统风险

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

model cardrisk assessment