← 返回概念辨析

Concept Contrast Fable

管出事的和定规矩的

公司要建 AI 体系,经常有人问该找「搞安全的」还是「搞合规的」。这两个职能听起来像,但一个管的是出了事怎么补救,另一个管的是怎么定规矩让少出事。搞错了方向,团队会发现自己天天救火,或者规矩定得太死没人想遵守。

寓言

工地上的安全员和监理

县城外有个大工地,动工第一天就出了事。一个工人没戴安全帽,被掉下来的砖头砸破了头。老板请来安全员老周,专门负责减少事故。老周每天在工地上转,看到谁没戴帽就拦,看到电线露出就让人修,看到脚手架松了就停工。工人嫌他烦,但小事故确实少了。

可老周很快发现,有些危险藏在施工安排里,不能都算到某个工人粗心。老板为了赶工期,让人站在还没加固的地基上继续砌墙。老周能叫停一次,却不能决定工期和预算。

他忙得像救火。今天补柱子,明天换绳索,后天又处理伤员。只要图纸、采购、奖惩和验收仍旧混乱,火总会从新地方冒出来。

后来老板请来张监理。张监理第一天没有去骂工人,而是坐下来定规矩:地基多深、钢筋多少、脚手架怎么搭、谁能批准赶工、事故如何上报。

规矩定下后,老周仍在现场巡查,但不再独自扛全部安全。有人违规,能停工整改;发现新材料,先评估再改规范;出了事,也能追到是哪条制度没覆盖。

可工地越做越大,老周开始碰到自己管不了的事。采购为了省钱买薄木板,工期为了赶节庆压缩夜间休息,新来的包工队没有受过训。老周能拦住没戴帽的人,却拦不住账房把安全绳预算砍掉。

老板又请了一位总管,把安全写进开工规矩、采购标准、承包合同、事故复盘和停工权限里。老周仍在现场巡查,处理每天冒出来的风险;总管则保证整个工地按同一套责任和决策运行。两人若只留一个,要么只会救火,要么只有墙上的章程。

两人有时仍会争。老周盯当下风险,张监理管长期秩序。老板终于明白,一个负责识别和处理风险,一个负责制定规则、责任和监督结构;工地要少出事,两只手都不能缺。

AI risk management

识别、评估、应对 AI 系统中可能出现的风险,出了事知道怎么处置

AI governance

制定规则、流程、审核机制,从制度层面确保 AI 系统安全可控

故事对应

  • 安全员老周 → risk management,负责现场风险识别和处置
  • 监理张师傅 → governance,负责制定规则和监督执行
  • 天天跟在后面救火 → risk management 的被动应对状态
  • 厚厚一本施工规范 → governance 的制度和规则
  • 新工艺不在规范里 → governance 的僵化问题
  • 出了事赶紧送医院 → risk management 的事后补救
  • 工人违反规定被罚款 → governance 的威慑和约束

落到项目里

如果你的团队现在天天在处理各种 AI 出的问题——模型抽风了、数据泄露了、用户投诉了——你们需要的是加强 risk management,先把应急机制建立起来。如果你们的 AI 系统还没上线,或者刚上线还比较稳定,但需要一套长期可靠的运行框架,那 governance 是更优先的选择。最好两边都有:governance 负责定规矩和审查,risk management 负责执行中出了事怎么处置。