寓言
一座城的城门令和城门令里画出的一扇黄门
大周朝出了一部城门令。令上按入城货物的风险分了四类:绿门的——茶叶、布匹,放开通过;黄门的——药材、铁器、火药,需要查验批文、押运印章和沿途巡检记录;红门的——武器、军马,直接禁运;白门的——新品类,先扣三个月待定级。城门守把令文贴在城门上,所有商队从此经过都要按门色走程序。
半年后,州府接到一份京城问卷,问本地是否遵守了城门令。州府回函正文写道“城门令落实到位”,附件里贴了一套黄门货物的查验证书。京城回函说核实通过。又过了半年,邻县出了一桩事故——一批未定级的新型硫磺混在茶叶里过了绿门,事后发现硫磺遇水会生剧毒烟气。查下来才发现州府的黄门合规做得漂亮,但对“白门——待定级”的流程一句没有。
州府重新解读城门令,发现令文包括六编:风险分类、定级流程、查验标准、监管档案、违规处置和更新修订。高风险AI系统的那套义务只对应“黄门查验”这一编——一份产品如果进了黄门分类,应当满足什么样的文件、测试和监控要求。但城门令本身还包括如何把新货纳入定级、如何复审原定级结果、如何跨州县执行处罚。
合规负责人带着令文把各编拆开,按部门重新分工。他画了一张表:每一编管的是不同问题——分类标准定的是“什么货进什么门”,查验标准定的是“进门要交什么文件”,档案标准定的是“查完以后留什么记录”。对应到AI语境:EU AI法案管的是分类体系、评估标准、监控义务和处罚机制的整条链;高风险AI系统只是其中一类的合规要求清单。
州府又发现,黄门类目本身是动态的——去年不需要批文的货品,今年因为新工艺被重新划进黄门。这意味着关注“我是不是高风险”只用一次检查是不够的,它需要持续评估。这份要求本身也是城门令中的一编:更新修订。
后来州府在年度合规报告里写了一段:城门令是一套活的框架,黄门是其中的一个对象类别。去年黄门达标不代表整个城门令达标,因为白门漏检也能捅出同等级的篓子。