← 返回概念解读

Concept Fable精修版

智能体策略

Agent Policy · Governance and control

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

给铜手一张真正能执行的边界图

铜匠铺造了一只会搬货、会开门、会递账册的铜手。刚上工时,师傅只说“帮大家省力”,铜手便看见什么重就搬什么,看见门没关就推上,看见账册摊着就收进柜里。

第一天大家都夸它勤快。第二天,药铺掌柜来取急用药材,发现铜手把“未验收”的箱子也搬进后库,钥匙还交给了临时伙计。没人说得清它错在哪里,因为最初只给了一个含糊目标。

师傅补了一条规矩:贵重物品不能碰。铜手于是绕开银器,却把一箱普通纸契搬到雨棚外。纸契不贵,损失却比银器更麻烦。单靠物品价格,挡不住真正的风险。

掌柜又让铜手每步都问人。铺子立刻堵住,伙计们排队回答“这扇门能不能开”“这本册能不能拿”。原本省下的力气,又被碎问题一点点吃回去。

最后,老账房把全铺事务画成边界图:哪些事可直接做,哪些事要先核身份,哪些金额必须请掌柜点头,遇到相互冲突的吩咐时按哪条顺序处理。

铜手重新上工后,动作少了些,却稳了许多。它能自己完成低风险杂事,遇到纸契、钥匙和异常取货会停下并找对的人,而不是把每个问题都丢给全铺。

掌柜明白,能干活的帮手不能只靠一句愿望驱动。真正有用的是一套可执行的边界:允许什么,禁止什么,何时升级,谁承担最后的决定。

过了一季,新来的夜班伙计试着让铜手替他取私人物件。铜手没有照做,也没有沉默卡住,而是把请求记下并交给值班管事。那一刻,铺子里的人才看见,边界图不只是防坏事,也让好帮手知道在灰色地带怎样稳住。 后来掌柜招新人,也先讲这张图,再讲铜手多能干。大家知道它不是听话越多越好,而是必须在被允许的范围内完成事。边界画得越清,铺子越敢把真实工作交出去。 若没有这张图,越能干的铜手越让人不安;有了它,铺子才敢把小事放手。

揭示

这个故事讲的是:智能体策略

Agent Policy 定义 Agent 在数据、工具、用户、外部动作、预算、沟通和升级方面允许、禁止或必须执行的规则。它应能被运行时、策略引擎和审计机制使用,而不只是自然语言原则。好的 Agent Policy 会把权限、上下文、风险等级、审批阈值、日志要求和人工介入条件连接起来。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 铜手:企业 Agent
  • 口头交代:模糊提示词或原则
  • 客户备注外泄:缺少数据和沟通边界
  • 边界图:Agent Policy
  • 放进运行机关:策略在运行时执行
  • 查表发信先过图:工具和动作授权检查
  • 被拒绝留下原因:可审计的策略执行记录

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

guardrailspermissionssafety policytool access controlhuman-in-the-loop

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。