← 返回概念解读

Concept Fable精修版

控制措施

Controls · Compliance/Security

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

井边的三道小动作,比一百句小心更可靠

青石镇公井每天供半城人取水。过去井边只挂一句话:小心落井,勿用脏桶。大家点头,却照样有人夜里摸黑滑倒,有人把洗过鱼的桶放进井里,还有一次井绳磨断,水桶沉到底。

镇长先罚了几个人。罚完第二天,孩子仍趴在井沿看水,井绳仍旧起毛。老木匠说,靠提醒不能守住井,得把危险拦在动作里。处罚只能说明事后不满,不能让下一只脏桶停下。

他先在井口加夜间木栅,日落后自动落锁,防人摸黑靠近;又做了公桶挂钩,只有干净公桶能下井,私桶卡不进去;最后在井绳旁钉刻痕牌,每日取水人必须看磨损到哪一格,超过红线就换。

几周后,木栅挡住了一个醉汉;挂钩拦下了鱼贩的脏桶;刻痕牌让井绳在断前被换掉。镇长这才看见,三样东西不是同一种管法:有的预先阻止,有的及时发现,有的帮助修正。

第一次修补仍漏了一处。雨季来临,井边泥地打滑,木栅、挂钩和刻痕牌都没有处理脚下。老木匠又铺粗石、开排水沟,并指定早市后有人清理。控制要随着新风险长出来,不能装一次就睡大觉。

后来井边仍贴告示,但没人把告示当成唯一保障。每次新风险出现,镇里都问:能不能先拦住,拦不住能不能早发现,发现后谁来纠正。

公井变安全,不是因为人忽然都谨慎了,而是危险被具体的栏、钩、牌和责任接住了。真正的控制措施要落在现场动作上。

后来邻镇来借告示模板,老木匠只给了半张纸,上面写着:先找危险动作,再决定栏、钩、牌和责任人。若只把“请小心”四个字贴得更大,井还是那口井,绳还是那根快断的绳。后来镇里修桥、开仓、办灯会,也沿用这套问法。

揭示

这个故事讲的是:控制措施

Controls 是为降低风险、满足政策或达成控制目标而设计的具体措施。它可以是预防性、侦测性或纠正性的,例如访问审批、最小权限、日志监控、人工复核、配置基线、变更审批、备份、告警和事件响应。在企业 Agent 场景中,控制措施要覆盖模型行为、工具权限、数据访问、输出审查、审计记录和异常处理。控制不是口号,必须有明确目标、责任人、执行方式和证据。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 深井:企业系统中的高风险资源或流程
  • 互相提醒:非正式管理
  • 大警示牌:抽象政策
  • 木栅、挂钩、刻痕牌:具体控制措施
  • 预防污染和跌落:预防性控制
  • 每日检查:侦测性控制
  • 异常上报:纠正性控制和处理闭环

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

control ownercontrol testingpreventive controldetective controlcompensating control

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。