← 返回概念解读

Concept Fable精修版

风险评估

Risk Assessment · Risk Management

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

新桥开工前,石匠先数会塌在哪里

山镇过去只有木桥,行人慢慢走,最多一次过两辆车。桥老了,镇长想建一座能让马车和货队同时通行的新桥。

商人催着开工,石匠也说图纸不难。镇长差点直接拨钱,因为大家都看到了新桥带来的速度,却没人认真讨论它可能带来的伤害。

有人提议把桥栏杆做高一点,算是谨慎。可栏杆只挡得住人跌下去,挡不住洪水、超重车队、夜间误行、材料偷换和维护缺席。

第一次试行时,三辆盐车同时上桥,桥面没有塌,却压裂了桥墩。镇长才发现,单一安全措施无法覆盖不同风险场景,没出大事只是运气。

石匠暂停开工,把风险逐项摊开:谁会用桥,载什么货,最坏后果是什么,发生机会多高,谁会受影响,需要什么控制,哪些风险即使加固后仍会留下。

他们把普通行人、重车、暴雨、夜市高峰分成不同等级。高风险场景增加限重、巡检、夜灯和封桥规则,低风险场景不再堆叠无意义检查。

新桥晚了十天完工,却少了很多事后争吵。每个重要决定都有理由:为什么允许,为什么限制,为什么需要人工看守,为什么有些情况必须暂时封桥。

镇长明白,开工前数危险不是拖慢建设的仪式。它是在速度到来之前,把可能的伤害、严重程度和控制措施讲清楚,让新桥不靠侥幸承重。石匠还把每项控制写给守桥人看。限重牌谁检查,夜灯谁添油,暴雨时谁有权封桥,都不能只留在图纸上。风险若没有主人,就会在真正来临时重新变成无人负责的惊慌。新桥开通后,镇长仍保留那张风险表。它不是竣工前的文书,而是后续巡检、改限重、加灯和封桥时的共同依据。后来复盘时,众人把这条经验写进日常规矩:先看现场哪里真正改变了结果,再决定该保留什么、修补什么、限制什么。若只看表面热闹,下一次还会在同一处摔倒。

揭示

这个故事讲的是:风险评估

Risk Assessment 是对 AI 用例或系统的潜在风险进行识别、分析和分级,判断可能伤害、合规义务、发生概率、严重性和所需控制。企业 Agent 风险评估要覆盖数据敏感性、权限范围、自动化动作、客户影响、错误可逆性、模型不确定性、供应商依赖和人工监督。它的输出应进入风险登记册、控制设计、上线审批和持续监控,而不是停留在一次性问卷。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 新桥:准备上线的 AI / Agent 用例
  • 更高栏杆:只针对单一风险的浅层补丁
  • 盐车压裂桥墩:自动化规模化后暴露的新风险
  • 逐项摊开:识别风险场景、影响对象、概率和严重性
  • 限重、巡检、夜灯、封桥:按风险等级设计控制措施
  • 允许和限制的理由:风险评估支撑上线决策
  • 加固后仍留下的风险:残余风险

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

impact assessmentDPIAAI impact assessmentrisk classification

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。