← 返回概念解读

Concept Fable精修版

EU AI 法案

EU AI Act · Regulation

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

四种颜色的通行牌,让机械学徒知道能去哪里

海西诸城的工坊都爱造会办事的铜器。有的只会给客人指路,有的能替药铺分药,有的参与学徒录取和码头通行。早年各城各管,商队跨境卖器物时常被拦下。

南城工匠觉得委屈:我的铜器只是帮人快一点,为什么到北城就要重审?北城官员反问:若它决定谁能进学堂、谁能领药、谁能过关,出了差错谁负责?双方争了许久。

联盟最初想发一张统一许可,所有铜器凭证通行。很快出事:玩具铜鸟和药房分拣铜手被按同一标准检查,轻的被拖慢,重的却查不够。

后来议会改用四色牌。无害玩具只需基本标识;普通办事铜器要说明用途;涉及医疗、就业、教育和通行的高风险器物必须有测试、记录、人工复核和责任人;少数会伤害权利的用途直接禁止。

工匠起初嫌规矩重。直到一台录取铜器因旧偏见错拒学徒,城市能沿着记录找到训练来源、检查办法和负责商号,大家才承认分级不是摆设。

海西诸城终于能互相信任。议会明白,治理会办事的机器,不能只看它聪不聪明,要看它被放进什么场景、会影响谁的权利、需要哪些义务和边界。

有些工匠后来学会先选场景再造器物。同样会分拣的铜器,放在玩具店和药房,责任完全不同;同样会推荐,推荐书籍和推荐贷款,也不能按同一牌色看待。

四色牌让市场少了许多含糊销售。客户不再只听“更快更聪明”,而会问风险等级、记录义务、人工复核和退出办法。联盟要的不是让铜器停产,而是让影响越大的用途承担越清楚的责任。后来工匠发现,清楚分级反而帮他们成交。客户知道自己买的器物需要哪些义务,不会等出事后才争论责任。规则变成跨城信任的底座。分级越清楚,跨城使用越少靠临时争辩。商队也更愿意购买能说清牌色和责任的器物,而不是只听工匠夸口。

揭示

这个故事讲的是:EU AI 法案

EU AI Act 是欧盟以风险分级监管 AI 的法律框架,将 AI 用途区分为不可接受风险、高风险、有限风险、最低风险,并对高风险系统、通用目的 AI、透明披露、技术文档、数据治理、人类监督、日志、合格评定和市场监督提出要求。企业 Agent 面向欧盟客户或影响欧盟用户时,需要按用途判断适用义务。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 联盟城邦:欧盟市场
  • 机械学徒:AI/Agent 系统
  • 四种颜色通行牌:EU AI Act 的风险分级
  • 深色牌:高风险 AI 系统
  • 技术文档和日志:合规义务
  • 通用大机器:General-Purpose AI 的单独义务

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

high-risk AI systemGPAIconformity assessmentCE markingfundamental rights impact assessment

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。