← 返回概念解读

Concept Fable精修版

模型清单

Model Inventory · Model Risk Management

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

城里到底有多少台会算账的机子

禾川城各衙门都买过会算账的机子。税务署一台,仓库两台,医馆还有外商带来的一台。每台都解决过问题,所以没人急着做总账。

几年后,城主问:全城到底有多少台机子在影响百姓决定?没人答得出来。有的在正用,有的试过停了,有的虽停名义,仍接着收资料。

幕僚先发一张表。有人只填正式购买的,有人漏掉外包商带来的,有人觉得小工具不算。表格整齐,缺口却很大。

一次投诉让问题严重。医馆拒绝一位病人的补助申请,理由来自一台早已无人维护的评分机。城里找不到负责人,也找不到它依据的规则和风险等级。

城主设立机册,不再只问买了什么,而问哪些自动判断正在影响业务、客户、员工或合规责任。每台机子都登记用途、负责人、状态、供应商、资料来源、风险等级和下线计划。

登记后,城里第一次看见全貌:有些重复,有些高风险无人审,有些低价值占着维护资源。治理的第一步不是评判好坏,而是先知道它在哪里、谁拥有、影响什么。

机册建立后,最难的不是登记新机子,而是处理旧角落。有人说那只是试验,有人说供应商负责,有人说早已不用。城主要求按影响而非名义判断。

只要它仍在参与决定,仍在收资料,仍可能改变人的待遇,就要入册。机册让预算、责任和风险第一次坐到同一张桌上,城里也有了清理和替换的顺序。 后来新手入门时,老师傅不再先讲抽象名目,而是让他们复盘那次失误:原先哪里靠直觉,第一次修补为什么不够,新的安排怎样把风险留在能检查的位置。等他们能说清这些细节,还能指出什么时候该沿用、什么时候该升级,才算真正懂了这套办法。 后来他们还把这套办法交给新人演练:先让新人按旧办法做一遍,看错误怎样出现;再按新规矩重做,看哪一步被提前拦住,哪一步留下了证据。新人若只会背名字,仍会在相似场景里乱用;只有能说出适用边界、代价和失败后的补救,才被允许独立接活。

揭示

这个故事讲的是:模型清单

Model Inventory 是集中记录开发、验证、生产、退役或第三方使用中模型的清单,包含所有权、用途、状态、风险和元数据。它是模型治理和模型风险管理的基础,因为企业必须先知道有哪些模型在影响业务,才能做验证、监控、审批、下线和合规报告。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 会算账的机子:企业内部和第三方模型、LLM 应用、评分器和自动决策系统
  • 各衙门各自购买:模型分散在部门、供应商和流程里
  • 自行填表:一次性、不完整的盘点
  • 早已无人维护的评分机: orphan model 和 shadow AI
  • 机册:model inventory
  • 用途、负责人、状态、风险等级:模型治理关键元数据
  • 生命周期:development、validation、production、retired 等状态
  • 最后洞察:模型清单让企业先看见模型资产和风险全貌

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

AI use case inventorymodel registrymodel lifecyclemodel owner