← 概念解説に戻る

Concept Fable

自律性レベル

先に結論:これは、Agent がタスクにおいてどれだけの決定権、行動権、例外処理権を持つか、そして人間がどれほど頻繁に、どれほど重要な位置で介入する必要があるかを記述する。

Autonomy Levels · ガバナンス

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

見習いから夜勤の番頭へ

木工所に三人の学徒が来た。初日、師匠は小林に道具を渡すだけを担当させた。師匠が鉋と言えば鉋を渡し、師匠が止めと言えばすぐ止めた。仕事は彼が少しやったが、決定はすべて師匠の手にあった。

一ヶ月後、小林は図面通りに椅子の脚を磨けるようになった。親方はもう一刀ごとに見張らず、重要な寸法の箇所だけを検査する。小林は自分でどちら側を先に磨くか決められるが、図面は変えられず、椅子を客に渡すこともできない。

半年後、師匠は彼に普通の机や椅子を独立して修理するよう命じました。小林は受注、時間見積もり、木材の選定、完成後の記録ができますが、高価な木材、奇妙な要求、損が出そうな注文に遭遇した場合は、必ず師匠を呼ばなければなりません。

もう一人の徒弟、小周は急ぎすぎた。木を削れるようになったばかりで、勝手に一式の戸棚を請け負い、寸法を間違えたうえ無料で作り直すと約束した。師匠はそこで初めて気づいた。問題は徒弟が賢いかどうかではなく、どの工程で自分で決めてよいと許されていたかにある。

後に大工の工房は壁に四枚の札を掛けた。助言のみ、手順どおり実行、低リスクは自主、高リスクは承認が必要、全工程の責任。各徒弟は仕事を引き受ける前に自分がどの段階かを見る。段階が高いほど、仕事が少ないのではなく、逐次指示されることが減り、担う判断と結果が増える。

師匠はさらに各レベルにガードレールを設けた。提案だけの学徒は顧客への約束に触れられず、低リスク自律の学徒は固定価格表しか扱えず、夜班店主は独立して注文を受けられるが、大口賠償の前には師匠を叩き起こさなければならない。

そのため木工所では二種類の誤りが減った。有能な人を縛りすぎることと、準備ができていない人を遠くへ放しすぎることである。自律性とは「安心してやれ」の一言ではなく、明確な権限、境界、引き継ぎ点の組である。

後に管事はこの経験を日々の規律に書き入れた。まず場面を見て、次に境界を見て、最後に失敗時に誰が引き継げるかを見る。これらがすべて明確になって初めて、美しいデモは納品可能な仕事になる。再確認のとき、彼らは古い事故と照らし合わせ、新しい規律が紙の上で美しいだけでなく、慌ただしい現場で同じ誤りを実際に防げることを確かめる。

明らかにする

この物語が語るのは:自律性のレベル

これは、Agent がタスクにおいてどれだけの決定権、行動権、例外処理権を持つか、そして人間がどれほど頻繁に、どれほど重要な位置で介入する必要があるかを記述する。

低自律性システムは提案のみ、または固定手順の実行にとどまる。高自律性システムはタスクを分解し、ツールを選び、システムを呼び出し、異常を処理し、さらには目標を主体的に推進できる。分级の鍵は「AI がどれだけ賢いか」ではなく、「どの決定を任せ、どの決定を人に残すか」である。

メタファーのマッピング

  • 道具を渡す見習い:指令にのみ応答する補助システム
  • 図面どおりに磨く:実行可能な固定フローだが目標は変えられない
  • 通常注文は独立して処理:低リスクシナリオにおける限定的な自律性
  • 高価な木材と損になる注文は師匠を呼ぶ:高リスクなノードへの人間の介入
  • 壁の四枚の札:権限、リスク、人手介入の頻度で自律レベルを区分する

Andy(任旭)判断

Agent の自律性を議論するとき、「自動化できるか」だけを問うてはならない。本当に設計すべきは権限の境界である。どのタスクは自動完了でき、どのアクションは承認が必要で、どの失敗は人間にエスカレーションしなければならないか。

自律性の段階制御権の移転自動化レベルSAEレベル(自動運転に類似)

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号