← 返回概念辨析

Concept Contrast Fable

评估风险的过程和记录风险的册子

风险评估是走到现场、测量数据和判断严重程度的过程,风险登记册是记录这些结果的台账。AI 治理里最隐蔽的坑,是把写完的册子当成评估已经完成。

寓言

河道官和抄册匠

清河府每年汛期前都要巡堤。河道官带着匠人沿岸查看土色、裂缝、旧修补和村庄位置,按可能性和后果判断哪里最危险。东堤裂缝浅但靠近粮仓,西堤老旧却水势缓,判断并不只看裂缝大小。

第一年巡完,河道官在堂上讲了半日,众人点头。可三个月后换了书吏,没人记得东堤谁负责加固、何时复查、上次雨后水尺涨到哪里。评估做过,风险却像散在风里的话。

雨季中段,巡河哨报告东堤渗水。衙门翻箱倒柜找旧判断,只找到几张草纸。县令这才发火:知道有危险是一回事,把危险登记成可追踪的事又是另一回事。

第二年,河道官仍先巡堤、估轻重、排优先级。这是判断过程。巡完后,书吏把每项风险写进册子:位置、原因、可能后果、当前等级、负责人、缓解办法、复查日期和最新状态。每逢大雨、水尺越线或修补完成,册子都要更新。

有一次西堤等级下降,不是因为没人怕了,而是新排水沟已完工;东堤等级上升,是因为上游暴雨和粮仓新建同时增加后果。册子让变化被看见,而不是重新开会时从头猜。

新书吏后来随河道官巡堤,一边听判断,一边把每处危险写成册:位置、原因、可能后果、负责人、应对办法和复查日期。册子不是替代巡堤,而是让巡堤的判断能被追踪。

县令后来每月翻册,不是为了欣赏整齐字迹,而是看上次判断有没有处理。若东堤加固完,册上改状态;若新雨后危险升高,重新评估。巡堤给出判断,册子让判断不被遗忘。

县令后来把两件工具分开放:巡堤是为了看清风险,风险册是为了让看清的事不丢、有人管、会更新。没有巡堤,册子只是抄旧话;没有册子,巡堤只是一次聪明谈话。

风险评估

识别、分析和评价风险的过程,包括确定风险来源、可能性、影响程度和优先级,需要基于当前数据做出判断。

风险登记册

文档化所有已识别风险的台账,记录风险描述、等级、责任人、应对措施和状态,是需要持续维护的活文档。

故事对应

  • 下河道测水深、看裂缝:风险评估中的实地调查和数据采集
  • 河道官的册子:风险登记册,记录评估结果
  • 誊抄旧记录:把登记册维护等同于评估完成
  • 绑定评估日期和评估人:登记册条目必须关联最新评估证据
  • 水利智能系统:自动化风险发现需要配套人工或规则化的评估确认

落到 AI 风险治理

建 AI 风险台账时,先定义评估触发条件(模型换版、数据源变更、合规要求更新、事故复盘),再要求每条风险条目至少关联一次近期的、可追溯的评估活动。台账是容器,评估是往里填证据的动作。