SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

出了事之后和出事前

incident 管已经发生的事故,risk management 管事故发生前的识别、减轻和准备。一个看响应和复盘,一个看预防和控制;供应商说自己“有管理”,需要问清它管的是哪一段。

寓言

救火队和巡线人

柳川镇有一支救火队,铜铃一响,队员就推着水车冲出去。他们爬梯、破门、救人,动作又快又稳。镇民很敬重他们,逢年过节都会送酒肉,因为每次火起,都是这群人把房子从灰烬边拉回来。

镇上还有几个巡线人,平时拎着灯和钳子,在巷子里检查电线、油灯、柴房和粮仓。他们常敲开店门,说这根线太旧,那堆干草离灶台太近。掌柜们不爱见他们,觉得他们只会挑毛病,还耽误做生意。

有一年冬天,南街米铺起火。救火队来得很快,半条街保住了,可米铺还是烧掉一间仓。队长拍着胸脯说,幸亏我们训练有素。巡线人却翻出半月前的记录:米铺后墙那根线已经发黑,柴草又堆在墙角,当时掌柜嫌换线贵,没有修。

队长听了不高兴。他觉得火都灭了,再讲旧账没意思。巡线人也生气,觉得自己早就提醒过,却没人当回事。镇长一开始站在救火队这边,因为救火看得见,巡线看起来像多花钱,账上还总是写着没有发生的坏事。

后来北街又差点出事。巡线人发现酒楼阁楼堆满旧油布,逼着掌柜当天清走,还让伙计把水缸挪到后门,并把堵住巷口的木箱搬开,另留一盏夜灯。三天后隔壁厨房走火,火苗窜到阁楼口,却没找到可烧的油布,很快就被扑灭。镇民这才慢慢明白,有些功劳不会变成热闹的铜铃声。

镇长于是把两本册子分开。红册子记录火灾发生后谁报警、谁响应、损失多少、怎样复盘。灰册子记录平时发现了哪些隐患、哪些已经修掉、哪些仍在拖延、如果真的起火该怎样减损,还注明下一次巡查由谁负责。

从那以后,救火队仍然训练,巡线人也继续敲门。镇上不再拿救火速度证明街道安全,也不再拿巡线记录代替事故处置。火起之后要有人救,火起之前也要有人把容易燃的东西搬远,把逃生路清出来。

AI incident

AI 系统已经造成或差点造成伤害、损失、违规或严重偏差后的事故事件,重点是响应、记录、补救和复盘。

AI risk management

在事故发生前识别风险、评估影响、设置控制措施,并持续降低发生概率和影响范围。

故事对应

  • 救火队 → AI incident 响应机制
  • 铜铃、水车、救援 → 事故发生后的处置流程
  • 巡线人 → AI risk management 的预防工作
  • 发黑电线和旧油布 → 尚未爆发但可识别的风险
  • 红册子 → 事故记录、响应和复盘
  • 灰册子 → 风险识别、控制措施和未关闭隐患
  • 救火速度不能证明街道安全 → 有事故管理不等于风险已经管好

落到供应商审查里

供应商说有 AI incident 管理时,要看它如何发现事故、升级、止损、通知客户和复盘。供应商说有 AI risk management 时,要看它上线前如何识别风险、设控制项、做红队测试、监控残余风险。一个偏事后响应,一个偏事前降低概率和影响;成熟团队通常两套都有。