← 概念解説に戻る

Concept Fable

人間がループ内にいる

先に結論:これは、人がAIまたはエージェントの実行過程に何度も関与することを指し、最終承認だけでなく、理解、計画、実行、誤り訂正、引き継ぎなどの段階で判断を提供することを意味する。

Human-in-the-Loop(Deep HITL) · ガバナンス

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

親方は長机のそばに座る

穀倉に自動配給木車を設置した。普通の配給票が来ると、木車は人数・票・倉の位置に応じて自分で穀物を出す。老いた倉番よりずっと速い。

最初の月は順調に見えたが、救援隊、独居老人、大口の軍糧注文が混ざり込むまで続いた。木車は依然として通常どおりに食糧を放出し、あるものは緊急を遅らせ、あるものは多く出しすぎて回収できなかった。倉長はここで気づいた。すべての判断を木車に任せることも、人間に一歩ずつやり直させることもできない。

老いた帳簿係は三つの赤印を取り出した:金額が大きすぎる、証憑が曖昧、弱者や急災に関わる。木車は赤印の箇所で必ず止まり、理由、証拠、提案を台の上に広げ、倉丁に確認、判断変更、または引き継ぎを求める。通常の伝票は自動で処理が続き、遅延しない。

何度か繰り返すうちに、倉丁たちは自分たちが傍観者でもなく、また米袋ごとに元へ押し戻されるのでもないと気づいた。彼らは最も人を傷つけやすい分岐点に配置され、審査・誤りの是正・責任の負担を担った。

赤印は最初あまりに多く押され、倉丁はまた埋もれた。老会計係は無関係な停頓をいくつか削り、生命、金糧、取り戻しにくい結果に影響する分岐だけを残した。人手で判断を変えるたびに、その理由を書かねばならない。

数週間後、木車はより多くの普通の単を順調に送り届けられるようになり、倉丁もどこで赤印がよく出るかを見えるようになった。人はもはや横で見せかけの仕事をせず、システムが本当に判断、責任、保証を必要とする場所に入るようになった。

倉長はまた、親方が机のそばに座っていることが参加を意味しないと気づいた。木車が結論だけを与え根拠を与えなければ、倉丁は当て推量するしかない。証拠、理由、選択可能な行動を並べて示せば、人は重要なところで本当に引き継げる。 後に倉長は赤印記録を審査し、いくつかの種類の伝票がいつも人に引き継がれるのを見て、木車のルールを改めに戻った。人はループ内で個別案件を処理するだけでなく、繰り返し現れる境界をシステムに持ち帰る。 倉庫は徐々に自動処理、人工確認、人工引き継ぎの境界を区別するようになった。

糧倉はついに速く安定した。人の位置が前すぎると効率がなくなり、後ろすぎると被害がすでに発生している。人を重要なループに入れることが真の分業である。

明らかにする

この物語が語るのは:人間がループ内にいること

これは、人がAIまたはエージェントの実行過程に何度も関与することを指し、最終承認だけでなく、理解、計画、実行、誤り訂正、引き継ぎなどの段階で判断を提供することを意味する。

それは浅い承認とは異なる。浅い HITL は高リスク動作の前に一度確認するだけかもしれない。深い HITL はより協働に近く、人間が中間ステップに影響を与え、コンテキストを補い、目標を調整し、システムが不確かな時にタスクを正しい方向に引き戻す。

メタファーのマッピング

  • 最後に一目:浅い検収または最終承認
  • 師匠は各ステップを自分で行う:自動化失敗、人がボトルネックになる
  • 長机の度重なる介入:深度 HITL のプロセス協働
  • アンティーク時計の引き継ぎ:リスク昇格と人手による接管
  • 重要な歯車の前での確認:高影響ステップにおける人間の判断

Andy(任旭)判断

複雑な業務では、一足飛びの全自動化を目指すべきではない。人の判断を正しいノードに組み込めることのほうが、やみくもに自律性を高めるよりも、成約しやすく納品しやすいことが多い。

協働型 AI拡張知能(Augmented Intelligence)インタラクティブ Agent
京ICP备2026014272号