← 返回概念辨析

Concept Contrast Fable

EU AI 法案和高风险 AI 系统,一个是整本法律,一个是法律里圈出来的一类

EU AI 法案是一部法律框架,定义了不同风险等级和相应合规义务。高风险 AI 系统是这部法律中风险分级体系里被标记为“高风险”的一类具体对象。把一部法律和其中一种分类名称当成同一层概念,会在合规评估时要么过度、要么遗漏。

寓言

一座城的城门令和城门令里画出的一扇黄门

大周朝出了一部城门令。令上把入城货物分成几类:茶叶布匹走绿门;药材、铁器、火药走黄门;武器和军马走红门;没见过的新货先走白门,暂扣待定级。半年后,州府回京报功,只交了一摞黄门查验证书。京城回函说黄门做得整齐,可城门令不只黄门一章。

邻县很快出事。一批未定级的新硫粉被当成普通茶货走了绿门,雨中冒出毒烟。追查才发现,州府黄门查得漂亮,白门待定流程却没人管。

合规官重新拆读城门令:它既管怎么分类,也管每类进门要交什么文书,还管查后留档、跨州处罚和每年修订。黄门只是其中一种门色,不是整部令。

他把城门各编交给不同官署:分类官管新货入哪门,查验官管黄门文书,档案官管留证,巡查官管旧定级复审。各司其职,但要能互相看见。

后来又有新工艺把一种旧货从绿门改进黄门。州府这才知道,问“我是不是黄门货”不能只问一次;货物、用途和伤害方式变化,门色也会变化。

州府这才发现,黄门只是被重点盯住的一类门,不是整部城门令。若只训练黄门吏,绿门、白门、红门都会留下空洞;若只背城门令标题,又不知道黄门为何要更严。

京城派来的巡察没有只翻黄门证书。他沿着每扇门问:谁负责定级,货主如何申诉,出事后谁留档,跨州流转如何追踪。州府这才补齐整套城门治理,而不是把最醒目的黄门当成全部。 后来州府训练新吏时,先讲整部城门令,再讲黄门为何特殊。新吏不再把重点门类当成全部法律,也不会只背法律标题却不知道哪扇门要严查。

年度报告里,州府写得更谨慎:城门令是一整套活框架,黄门是一类受严查的对象。黄门达标不代表整部令达标,白门漏检也能捅出同样大的篓子。

EU AI 法案

欧盟人工智能法案,一部法律框架,以风险分级为核心,覆盖分类、合格评定、透明度、监管、执法和处罚等完整的治理链。

高风险 AI 系统

EU AI 法案风险分级体系中被标记为“高风险”的具体系统类别,需要满足更严格的合规要求——包括风险管理、数据治理、技术文档、人工监督等。

故事对应

  • 城门令全文六编:EU AI 法案的完整框架,涵盖分类、定级、查验、档案、处罚和修订
  • 黄门的查验证书:高风险 AI 系统的合规清单,只对应框架内一个风险等级的特定要求
  • 新型硫磺混在茶叶过绿门:白门漏检引发事故——只做好高风险合规不等于整体合规达标
  • 各编拆开按部门分工:法案的每一编对应不同的治理问题,高风险分类只是其中一层
  • 去年不需要批文的货今年划进黄门:风险分类是动态的,需要持续评估而非一次检查
  • 黄门达标不代表城门令达标:把高风险合规等同于整体法律合规是常见的合规盲区

落到 AI 合规体系建设

团队做 AI 合规时最容易犯的错误是把“我的产品不是高风险 AI 系统”等同于“我的产品不受 EU AI 法案约束”。这部法案除了高风险类,还有有限风险类的透明度义务、通用AI的义务、以及新品类需要持续定级的流程。合规第一步是确定自己的系统属于哪个风险类别,而不是直接跳到高风险清单做对标。如果合规预算只够做一件事,先做分类评估和持续定级机制,确保你不会因为品类变更被突然拉入检查范围。