SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

公司用 AI 的规矩和智能体做事的规矩

两个都叫 policy,但管的层级不同。公司层面的规则决定哪些业务可以使用 AI、谁来审批、数据怎么处理;智能体层面的规则决定某个智能体能调用什么工具、能替人做到哪一步。

寓言

城里的公告和机器的说明书

河湾城新开了许多铺子,磨坊、药铺、钱庄都买了会自动转动的机器。市政厅担心出乱子,便在城门口贴出公告:哪些行业可以用机器,哪些活必须有人盯着,哪些账本不能喂给机器看。掌柜们每天进城,先看这张大公告。

公告贴出后,磨坊掌柜很高兴。他看到粮食加工被列为允许使用,立刻把新机器搬进后院,还把旧石磨拆了半边。可机器旁边还挂着一本薄薄的说明书,上面写着:只能磨干谷,不能磨湿麦;不能夜里无人看守;遇到石子必须停机。

掌柜觉得市政厅已经点头,说明书只是小字,便让伙计夜里也开机。半夜湿麦堵住齿轮,整条皮带断开,仓库里全是面粉。第二天他去找市政厅理论,官员只问了一句:你按那台机器自己的规矩用了没有?

药铺也遇到相反的麻烦。市政厅公告说,草药分拣可以用机器,但药方裁定必须由坐堂医师负责。药铺的分拣机器说明书却写得很严:凡是药名相近、颜色相近、来源不明,一律放进人工复核篮。伙计嫌慢,把复核篮清空,差点把两味药混在一起。

掌柜们这才发现,城门公告管的是整座城的边界:哪些行业能上机器,谁负责任,出了事故找谁。机器说明书管的是一台机器的动作:它能碰什么,能停在哪里,遇到疑难要不要叫人。公告给的是入场许可,说明书给的是动手分寸,两份规矩缺一份都不够。

后来市政厅重新办说明会。官员把公告挂在墙上,旁边摆出各家机器的说明书。掌柜要先确认自己的行业被允许,再确认手里的机器能不能执行那件具体活。市政厅不开机器,说明书也不能替城里批准一门生意。

从那以后,河湾城少了许多争执。大公告决定一类事能不能进城,说明书决定某台机器在店里怎么动手。掌柜们终于不再拿一张城门公告,去代替每台机器旁边那几页细规矩。

AI policy

组织层面的 AI 使用规则,说明哪些业务可以用、审批和责任怎样安排、数据与合规边界在哪里。

agent policy

单个智能体的运行规则,限制它能调用哪些工具、能访问哪些数据、遇到哪些情况必须停下或升级给人。

故事对应

  • 市政厅公告 → AI policy 的组织级使用边界
  • 哪些行业可以用机器 → 哪些业务场景允许使用 AI
  • 机器说明书 → agent policy 的单体行为规则
  • 湿麦堵住齿轮 → 只看组织许可、忽略执行限制造成事故
  • 复核篮 → 智能体必须升级给人的场景
  • 先看公告再看说明书 → 公司级规则和智能体级规则需要同时满足

落到治理设计里

制定 AI policy 时,先回答公司层面的问题:哪些部门能用、数据怎么分级、谁审批、谁担责。设计 agent policy 时,再落到具体智能体:它能不能发消息、能不能改数据库、能不能花钱、什么情况必须请人确认。前者给组织划边界,后者给执行者装护栏。