← 概念解説に戻る

Concept Fable

承認の敷居

先に結論:承認ゲート Approval Gate は、ワークフローにおいて人間の承認、ポリシー検証、または権限確認を経てから続行することを求める制御点である。通常、高リスク、高金額、不可逆、対外約束、プライバシー敏感、またはコンプライアンス関連の動作に用いられる。Agentシステムにとって、承認ゲートは反自動化ではなく、自動化が安全に実業務へ入るための鍵となる仕組みである。

Approval Gate · Operations/Governance

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

三つの場合にだけ鍵がかかる扉

山城には狭い橋があり、薬舗と病坊をつないでいる。普段、薬を届ける学徒は直接橋を渡れ、速度が速い。店主は知っている、ほとんどの薬包はただの尋常な草薬であり、遅らせればかえって人を害する。

その後、薬舗は烈性の湯剤を調合し始めた。ある薬包みが誤って送られ、病人は危うく大事に至るところだった。長老たちは緊張し、すべての薬包みが橋を渡る前に列に並んで捺印するよう命じ、薄荷水さえ例外ではなかった。

最初の数日、皆は安心を感じた。しかし列はどんどん長くなり、普通の薬は遅く届き、急症の患者は冷えて待った。徒弟は時間に追われ、いくつかの薬を一つの籠に混ぜて申請するようになり、判を押す人は中に何が入っているか見えなくなった。

長老たちは第二の印鑑を追加し、橋のたもとと薬局でそれぞれ一度押すよう求めた。結果、文書は厚くなり、責任は散らばった。印鑑が揃っているかだけを見て、薬包自体を見ない者もいた。本当に危険な湯剤は普通の伝票の山に隠れ、依然として見逃される可能性があった。

老いた薬師は三日間隊伍を見て、橋口がすべての事柄を遅くするべきではないと言った。彼女は薬包を三種類に分けた。通常の生薬はそのまま橋を渡り、用量変更は薬師が確認し、劇薬や初回調合は必ず店主が自ら放行する。

彼女はまた、止めるのは慎重さを示すためではなく、誰かが決定を変えられるようにするためだと定めた。店主が承認するなら理由を明確に書き、拒否するならどう再配置するかを説明しなければならない。学徒は橋を迂回できず、捺印する者も印だけ押して判断しないことはできない。

薬舗はまた、本当に止めるべきなのは最も高価な薬ではなく、結果を撤回しにくい薬であることが多いと気づいた。薄荷水を間違えて送っても送り直せるが、烈性の湯剤は一度口に入れば、後から印を補っても意味がない。老薬師は橋を渡った記録も薬房の裏壁に貼った。止められた薬包ごとに、なぜ止めたか、誰が決めたか、後に遅延を生じたかを書き記す。一か月後、彼女はある敷居は人を救い、ある敷居は普通の薬を遅らせるだけだと気づいた。そこで敷居も見直され、不適切なものは撤去される。後に薬舗は敷居と薬効を一緒に振り返るようになった。ある門が急ぎの薬を遅らせるなら、それもリスクとなり、天然に正しいわけではない。

新規則の施行後、橋のたもとはずっと静かになった。普通薬は迅速配送が復活し、危険薬包は選別されて詳しく調べられる。時折、門が一つ増えたと不平を言う人がいると、老薬師は川を指さして言う。門は壁ではなく、門は止まるべきものを止まるべき場所で止めるためのものだ。

明らかにする

この物語が語るのは:承認のしきい値

承認ゲート Approval Gate は、ワークフローにおいて人間の承認、ポリシー検証、または権限確認を経てから続行することを求める制御点である。通常、高リスク、高金額、不可逆、対外約束、プライバシー敏感、またはコンプライアンス関連の動作に用いられる。Agentシステムにとって、承認ゲートは反自動化ではなく、自動化が安全に実業務へ入るための鍵となる仕組みである。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • メッセンジャー:アクションを実行できる Agent または自動化フロー
  • 普通の伝言と整理:低リスクの動作で、自動実行可能
  • 確保しておいた薬材を売却:自動化が影響の大きい動作を実行したが、承認制御を欠いていた
  • 三道門:リスク分级に応じて異なる承認戦略を設定する
  • 第一の門は常に開いている:低リスクタスクは人手を介さない
  • 第二の門は半開き:中リスクタスクは条件付きトリガー承認が必要
  • 第三の門に鍵をかける:高リスク、不可逆、またはコンプライアンスに敏感な動作は人間の承認を必須とする
  • 担当者の印を指定:承認権限と責任の所在を明確化
  • どこで必ず止まるべきかを知る:Approval Gate の核心的価値は無差別なブロックではなくリスクの階層化にある

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

人による承認変更承認policy enginerisk threshold
京ICP备2026014272号