← 概念辨析に戻る

Concept Contrast Fable

会社がAIを使うルールと、エージェントが仕事をするルール

先に結論:どちらも policy と呼ばれるが、管理する階層が違う。会社レベルの規則はどの業務が AI を使えるか、誰が承認するか、データをどう処理するかを決める。エージェントレベルの規則は、あるエージェントがどのツールを呼べるか、人間の代わりにどこまでできるかを決める。

どちらも policy と呼ばれるが、管理する階層が違う。会社レベルの規則はどの業務が AI を使えるか、誰が承認するか、データをどう処理するかを決める。エージェントレベルの規則は、あるエージェントがどのツールを呼べるか、人間の代わりにどこまでできるかを決める。

寓話

街の公告と機械の説明書

河湾城には多くの店が新たに開き、製粉所、薬舗、銭荘も自動で回る機械を買った。市庁は混乱を心配し、城門に公告を貼り出した。どの業種が機械を使えるか、どの作業は人が見張らなければならないか、どの帳簿は機械に見せてはならないか。店主たちは毎日城に入り、まずこの大きな公告を見る。

公告が貼られると、製粉所の店主は喜んだ。穀物加工が許可用途に挙げられているのを見て、すぐに新機械を裏庭に運び込み、古い石臼を半分解体した。しかし機械の横には薄い説明書がまだ掛かっていた:乾いた穀物だけを挽ける、湿った麦は挽けない。夜間に無人で動かさない。石に当たったら停止する。

店主は市庁舎がすでに同意したと思い、説明書はただの小さな文字だとして、店員に夜も機械を動かさせた。真夜中に湿った麦が歯車を詰まらせ、ベルト全体が切れ、倉庫は小麦粉だらけになった。翌日彼は市庁舎に理論に行ったが、役人はただ一言尋ねた。あの機械自身の規則に従って使ったのか、と。

薬舗は逆の厄介にも遭った。市庁舎の公告は、草薬の仕分けは機械でよいが、薬方の裁定は坐堂医師が担わねばならないとした。薬舗の仕分け機械の説明書は厳しく、薬名が近い、色が近い、出所不明は一律に人手再確認籠へ入れると書いていた。店員は遅いと嫌い、再確認籠を空にし、危うく二味の薬を混ぜるところだった。

店主たちはそこで初めて気づいた。城門の公告が管理するのは城全体の境界である:どの業種が機械を使えるか、誰が責任を負うか、事故が起きたら誰を探すか。機械の説明書が管理するのは一台の機械の動作である:何に触れられるか、どこで止まれるか、難題に遭ったら人を呼ぶべきか。公告が与えるのは入場許可であり、説明書が与えるのは手を動かす加減であり、二つの規則はどちらが欠けても足りない。

後に市庁は説明会を開き直した。役人は公告を壁に掛け、その横に各社の機械の説明書を並べた。店主はまず自分の業種が許可されていることを確認し、次に手持ちの機械がその具体的な作業を実行できるかを確認する。市庁は機械を動かさず、説明書も街に代わって商売を認可することはできない。

それ以来、河湾城では争いがずっと減った。大公告はある種の事が城に入れるかどうかを決め、説明書はある機械が店でどう動くかを決める。店主たちはついに、一枚の城門公告で各機械のそばの数ページの細則を代用しなくなった。

AIポリシー

組織レベルのAI使用規則で、どの業務が使えるか、承認と責任をどう配置するか、データとコンプライアンスの境界がどこにあるかを説明する。

エージェントポリシー

単一の智能体の運用ルールであり、どのツールを呼び出せるか、どのデータにアクセスできるか、どのような状況で停止または人へエスカレーションしなければならないかを制限する。

物語の対応

  • 市庁舎の公告 → AI policy の組織レベルの使用境界
  • どの業界が機械を使えるか → どの業務シーンでAIの使用が許されるか
  • 機械説明書 → agent policy の単体行動ルール
  • 湿った麦が歯車を詰まらせる → 組織の許可だけを見て、実行上の制約を無視したために事故が起きる
  • レビュー籠 → エージェントが人へエスカレーションすべき場面
  • まず公告を見てから説明書を見る → 会社レベルのルールとエージェントレベルのルールを同時に満たす必要がある

ガバナンス設計に落とし込む

AI policyを策定するとき、まず会社レベルの問題に答える。どの部門が使えるか、データをどう分類するか、誰が承認するか、誰が責任を負うか。agent policyを設計するとき、次に具体的な智能体に落とす。メッセージを送れるか、データベースを変更できるか、金を使えるか、どんな場合に人に確認を求める必要があるか。前者は組織に境界を引き、後者は実行者にガードレールを付ける。

京ICP备2026014272号