← 概念辨析に戻る

Concept Contrast Fable

エージェントの動作原理と、エージェントの責任の所在

先に結論:エージェント運用モデルは、Agent がどう動き、どんなリソースを使い、どんな制約を受けるかを定義し、エージェント責任者は、誰が Agent の行動と結果に最終責任を負うかを定めます。企業が Agent を導入する際、この二つを混同しがちで、問題が起きても誰も署名しません。

エージェント運用モデルは、Agent がどう動き、どんなリソースを使い、どんな制約を受けるかを定義し、エージェント責任者は、誰が Agent の行動と結果に最終責任を負うかを定めます。企業が Agent を導入する際、この二つを混同しがちで、問題が起きても誰も署名しません。

寓話

一隻の船の定款と船首の名前

県に海運を請け負う船があり、よく走っていた。船首には船主の老周の名が刻まれていたが、船は実際には老周が店主に託して管理させていた。船には航海章程があり、分厚く綴られていた——どの帆を使うか、風に遭ったらどう調整するか、貨物倉を何割まで積むか、海賊に遭ったらどの手順で通報するか、すべて明確に書かれていた。

ある年、船が海上で擦過し、荷主が賠償を求めてきた。店主は定款を取り出し、定款に従って処理すると言い、貨物損害は免責範囲内であり、約定通り三割を賠償するとした。老周は定款を読み終え、三割では少なすぎると思ったが、定款には確かにそう書いてあった。荷主は、定款はお前たちが自分で書いたものだ、問題が起きたら定款で防ぐ、その定款が賠償を少なくするために書かれたものかどうか誰が知るかと言った。

問題は、誰もはっきり説明できないことにあった。章程は誰が書き、誰が同意し、誰が変更できるのか。老周は「もともと店主が書いた」と言い、店主は「書き終えて老周に見せた」と言い、老周は「章程どおりに全額賠償してよいとは言っていない」と言う。三人の言い分を合わせても、完全な責任の連鎖にはならなかった。

後に老周は一つの規則を加えた。以後、章程の改訂ごとに船主の署名確認が必要で、航海記録に登録する。こうすれば問題が起きたとき、まず記録を見て、次に章程を見て、最後に船長と店主を探す。船主の署名は責任の連鎖の中で飛ばせない一環となった。

しかし新しい規則は別の問題を引き起こした。ある年、海上の天候が異常で、店主は一時的に航路を変更して時間を節約しようとしたが、新しい航路は章程の範囲外だった。店主は老周に伺いを立てたが、老周は外地で別の船を走らせており、返事は三日後だった。船はすでに海上を二日余分に漂い、余分な燃料を消費した。荷主はこの二日分の損失を誰が負担するのかと問うた。

店主は、緊急時には合理的な判断をしたと言った。章程は常態運行の規則を書いたもので、緊急時にどうすべきかは規定していない。老周は、緊急時でもまず報告すべきで、自分で航路を変えてはならないと言った。二人は県衙まで争い、師爺が一言述べた。あなたたちの船の問題は、章程が細かく書かれていないことではなく、非常規の状況が起きた時、誰に章程を破る権限があるかということだ。

老周は後に一条を加えた:緊急時には店主が先に行動してよいが、事後に必ず書面の説明を補い、船主の署名確認を経て初めて帳簿に計上できる。こうして店主に臨機応変の権限を与えつつ、章程を破る判断を記録に残した。誰が署名するかが誰が責任を負うかであり、もはや空文ではない。

エージェント運用モデル

エージェントの動作方式、利用可能なリソース、制約条件、意思決定の境界を定義する。エージェントが何をでき、どうやるかのルールブックだが、それ自体は誰が結果に責任を負うかという問題を解決しない。

エージェント責任者

エージェントの行動と結果に対して最終責任を負う主体。責任者は必ずしも運用ルールの制定者ではないが、運用結果の承担者であり、重大な意思決定の署名者でなければならない。

物語の対応

  • 定款にはどの帆を使い、嵐にどう対応するかが書かれる:運用モデルは通常運転のルールと制約の境界を定義する
  • 船首には老周の名が刻まれている:責任者は最終的な責任の担い手だが、日常の運営に必ずしも関わるとは限らない
  • 貨物損害時に章程と責任チェーンが一致しない:運用ルールと責任帰属が乖離し、紛争時に追跡できない
  • 章程の改訂ごとに船主の署名が必要:責任者が規則確認に参加し、飛ばせない責任の連鎖を形成する
  • 緊急の航路変更が三日間の承認待ち:緊急意思決定の権限がなく、責任者不在時にシステムが柔軟に対応できない
  • 緊急時は先に行動できるが必ず記録を補う:臨機応変の権限を与えつつ事後追跡を保持し、権限の濫用を防ぐ

企業 Agent ガバナンスの実践へ

企業が Agent を導入するときは、運用モデルと責任者を分けて定義しなければならず、同じ人物に規則の制定者と最終責任の承担者を兼ねさせてはならない。運用モデルは通常の場面における Agent の行動境界を定め、責任者は非常規の意思決定に対して最終署名権を持ち、重大な運用規則の改訂確認に必ず参加しなければならない。最もよくある失敗は、運用マニュアルだけを書いて責任者を指定しないことだ——問題が起きて初めて、マニュアルの各条項に対応する署名者がいないと気づく。

京ICP备2026014272号