← 概念辨析に戻る

Concept Contrast Fable

意思決定を行うインテリジェントエージェントと境界を守る自動運転

先に結論:エージェントは開放領域で意思決定を行う——新しいツール、新しい目標、新しいコンテキストに直面しても行動を再編成できる。自動運転は一つの限定領域を守る——例えば運転、推論、帳票記入——境界内で極めて高い信頼性を達成する。自動運転を拡張可能なエージェントと見なすと、稼働後に境界の外で制御を失う。

エージェントは開放領域で意思決定を行う——新しいツール、新しい目標、新しいコンテキストに直面しても行動を再編成できる。自動運転は一つの限定領域を守る——例えば運転、推論、帳票記入——境界内で極めて高い信頼性を達成する。自動運転を拡張可能なエージェントと見なすと、稼働後に境界の外で制御を失う。

寓話

運河の閘口の自動船と外海を走る引水人

町には二種類の船乗りがいた。運河には同じ形の鉄殻船が並んで走り、箱にプログラムが入っていて、閘門で自分で減速し、列に並び、水位が平らになれば通る。外海には老顧が走り、三十年以上ただ一冊の星図と一本の竹竿だけに頼っている。外地の船主が町に来て荷を運ぶ人を雇うとき、二種類の船は同じに見える——どちらも荷を南から北へ運べる。

三月に水位が上がり、運河の閘門が故障し、水位は手順どおりに動かなかった。鉄殻船はその場で行き来して揺れた。手順の中の水位条件は永遠に合わず、誰も書き換えられなかった。老顧はその日たまたま内河にいて、水面を見て上流が放流閘を開けたと分かり、十七里回り道して支流を進み、その夜に荷を届けた。町の人は老顧が勝ったと言った。

しかし輸送の繁忙期になると、運河は一日に二百往復も走る。老顧はたとえ三頭六臂でも、一日に四往復しか走れず、しかも毎回の迂回、判断、意思決定に精力を使う。鉄殻船は整然と並び、速度は一定で、燃費は小数点まで正確だ。繁忙期の総勘定では、鉄殻船の輸送量は老顧の二十数倍だった。鎮長は埠頭で一言にまとめた。一つは予期せぬ事態に対処できるが、ただ一人しかいない。一つは予期せぬ事態に対処できないが、無数に複製できる。

後に誰かが老顧に外海の航海を学びに来た。老顧は一生で遭遇した海況を冊子にまとめ、弟子は一年間暗記して出海したが、一度転覆した——その日の波はこの冊子になかった。鉄殻船のエンジニアは運河のプログラムを外海に拡張しようとし、十ヶ月書いて気づいた。潮汐変化の組み合わせ数だけでも、プログラムが耐えられる分岐を超えていた。

分解して見ると、老顧の強みはどの航路にもなく、どの状況が見たことのないものか、次にどの方向を試すべきかを判断できる点にある。鉄殻船の強みはすべての見たことのある状況にあり、一度閘口に入れば老顧より三倍速い。境界の外は意外と呼ばれ、境界の内はスループットと呼ばれる。

町は規則を定めた。運河の輸送力が逼迫しているとき、鉄殻船は日常の輸送量を担当し、老顧は緊急便と迂回便を担当する。海運はすべて老顧に任せる——鉄殻船は転覆しなければよいが、転覆すれば閘門全体が詰まる。一方の船は予期せぬ事態への対応能力で容量を交換し、もう一方は容量で予期せぬ事態への対応能力を交換する。

初心者の船主がよくやる間違い:鉄殻船のプログラムをアップグレードすれば外海を走れると思い込むこと。水位判定をアップグレードし、波高モジュールを追加し、風力予測を組み込んだが、初めて三つの異常が同時に発生したとき、船はその場で旋回した。老顧が横を通りかかり、一目見て言った:君は海の走り方を教えているのではなく、すべての海路を運河の閘門の図面に描き込んでいるのだ。

インテリジェントエージェント

開放領域内で自律的に知覚・推論・行動する実体であり、新しい目標や新しい文脈に直面しても行動を再構成でき、変化の多い複雑なタスク環境に適する。

自動運転

限定された領域内で特定のタスクを完遂する自動システムで、境界が明確で、複製可能で、極めて高い信頼性まで最適化できるが、境界を超えると挙動は制御できない。

物語の対応

  • 鉄殻船が運河を走る:自動運転、限定領域内で複製可能、高スループット、低いエラー許容
  • 老顧の外洋航海:エージェントは、開放領域では判断と適応に頼り、少ない容量で高い柔軟性を持つ
  • 増水で十七里迂回:予期せぬ再編行動に直面したときのインテリジェントエージェントの優位性
  • 繁忙期の走行量は二十倍の差:限定領域における自動運転のスケール優位
  • 外海プログラムへの試み:限定領域ソリューションを開放領域へ拡張する際の分岐爆発
  • 新区間の分業を確定:境界論による価格設定——境界内は自動運転、境界外はインテリジェントエージェント

タスク自動化の選定に落とし込む

まずタスクの境界をはっきり描く。境界内のすべての可能な状態が列挙でき、失敗モードが既知で、スループット需要が高い——自動運転方案を選ぶ。再現性は柔軟性より価値がある。境界が曖昧で、状態が列挙できず、失敗に現場判断が必要——インテリジェントエージェントを選ぶ。柔軟性は信頼性より価値がある。最も高くつく誤りは、自動運転方案を境界の外へ無理に押し出すことだ。ルールモジュールを一つ加えるたびに、システムが境界で失效するときにその場で回り続けるまでになる。判断のシグナルは、異常処理コードが総コード量の三割を超えたら、このタスクは限定領域内にないということだ。

京ICP备2026014272号