← 返回概念解读

Concept Fable精修版

合格评定

Conformity Assessment · Regulation/Compliance

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

红柜机器上桥前,先过三道验桥门

城里新造的自动桥闸准备启用。它会识别车辆、收桥费、拦危险货,还会把违规者名单送给巡逻队。工匠说桥闸已经试过一百次,城主也急着剪彩。老验桥官却挡在门口:能运行,不等于合格。过去小工具坏了,修一修就好。可这座桥闸一错,可能拦住救护车、误罚商队、泄露行踪,影响全城通行。

工匠先交来一叠宣传图。验桥官退回去,要求风险文件、设计说明、数据来源、测试结果、人工监督方案、记录格式和安全证明。

验桥分三道门:文件是否完整,控制是否真实运行,整套装置是否符合适用规则。高风险部分还要请独立机构复核。

有一项测试失败了:夜雨中外地车牌误识别率太高。工匠修正数据和人工兜底后,桥闸才拿到合格标记。

上线后,合格标记也不是免死牌。重大变更、事故和性能漂移都可能触发重新评估。

城里由此明白,合格评定不是给机器贴奖章,而是在高风险整套装置进入市场或关键流程前,证明它满足规定要求。

验桥官还让巡逻队、医馆和商会各派一人来试。巡逻队关心逃费,医馆关心急车通行,商会关心货车误拦。三方一试,才发现同一扇闸门在不同人眼里有不同风险。

城主这才明白,验桥不是拖慢开张。越是要进入主路的装置,越不能只听制造者说它能跑;它得把来路、边界、失败处置和复查办法都摊在台面上。后来每次新机关上桥,工匠都会先问:这东西最坏会伤到谁,又该由谁证明它已经被看过。验桥官把这句话刻在门边,提醒后来的人先证明再通行。这也是城里愿意把通行交给它的前提。否则热闹剪彩只会把风险推到桥面上。

揭示

这个故事讲的是:合格评定

Conformity Assessment 是在受监管 AI 系统投放或使用前,验证其是否满足适用法律和标准要求的程序。对高风险 AI/Agent,通常涉及技术文档、风险管理、数据治理、测试、日志、人类监督、网络安全、质量管理体系,以及必要时第三方评估。上线后的重大变更也可能需要重新评定。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 自动桥闸:受监管的高风险 AI 系统
  • 宣传图:不足以证明合规的营销材料
  • 三道验桥门:文件、控制、规则符合性检查
  • 独立机构复核:第三方合格评定
  • 夜雨车牌失败:评估发现的缺陷
  • 重大变更重评:持续合规要求

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

EU AI ActCE markinghigh-risk AItechnical documentation