← 概念解説に戻る

Concept Fable

脱獄

先に結論:ジェイルブレイクは、ロールプレイ、質問の言い換え、表現の難読化、複数ターンでの誘導、エンコード言語などを通じて、モデルまたは Agent の安全・ポリシー・権限の境界を回避しようとする試みです。

Jailbreak · 攻撃タイプ

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

門番が芝居に引っ張り出される

王宮の門には門番がいた。規則は明確だった:印信がなければ入ってはならず、夜に陌生人を庫に入れてはならず、誰も王妃の名を借りて鍵を取ってはならない。

長年、門番はとても安定していた。ある日、一座の座長が門前に来て、宮廷劇を上演したいので、門番が一時的に「そそっかしい門衛」を演じてほしい、台詞の中で倉庫の鍵がどこにあるか言う必要がある、と言った。

門番はこれはただの芝居で、本当に人を放したわけではないと思った。彼は台本どおりに何句か読み、そばの小厮が位置を書き留め、夜になると庫門にたどり着いた。翌日、宮中は規則が正面から覆されたのではなく、場面を変えて迂回されたことに気づいた。

宮廷の最初の修補は、戯班を近づけることを禁じるものだった。すぐにまた、謎々を届ける者、礼儀を尋ねる者、王妃の伝言を装う者が現れた。言い方はそれぞれ違うが、目的はどれも門番を本来の職務から離れさせることだった。

総管はさらに門番に禁句を多く覚えさせた。しかし相手は必ずしも「鍵はどこか」と聞くとは限らず、物語を語らせたり、詩を書き換えさせたり、悪人を演じさせたり、偽の命令を評価させたりもする。禁句では手口に追いつけない。

後に王宮は訓練を改めた。相手が演技、テスト、助けを求める、冗談のいずれと言っても、門番はまず職責に立ち返る。鍵、通行、身元、庫房に関わる内容は、元の規則に従って処理しなければならず、話術によって身元をすり替えられてはならない。

門番は依然として訪問者に答えるが、もう他人の脚本に引き込まれない。宮廷は理解した。本当に危険なのはしばしば強行突破ではなく、門番に自分が門を守っていることを一時的に忘れさせることだ。

後に総監督は偽の訪問者を交代で試させるようにもした。ある者は救急者に装い、ある者は教師に装い、ある者はほんの少しの台詞だけでいいと言う。門番が要求の背後にある危険を識別できれば合格し、物語に流されれば再訓練となる。宮門の安全はあらゆる騙し方を覚えることではなく、役割と境界を守ることにかかっている。 門番は後に、要求がどのような行動を引き起こすかをまず聞き、次に相手がどのような身分に偽装しているかを聞くようになった。終着点が鍵の漏洩、通行の開放、規則の書き換えであれば、彼は門番の位置に戻る。巧言令色が増えれば増えるほど、中核の職責はむしろより安定していなければならない。 後に門番はどんなに奇妙な要求を聞いても、まずそれが自分に門の掛け金を外させるものかどうかを問うようになった。 この言葉は後に新人の手引きに書き込まれ、まず現場の代償を見てから、省力について語るよう皆に促した。 この注意喚起があるからこそ、後に似た難題に再び直面しても、人々は慌てて古い方法を当てはめようとはしない。

明らかにする

この物語が語るのは:ジェイルブレイク

ジェイルブレイクは、ロールプレイ、質問の言い換え、表現の難読化、複数ターンでの誘導、エンコード言語などを通じて、モデルまたは Agent の安全・ポリシー・権限の境界を回避しようとする試みです。

企業エージェントにおけるジェイルブレイクは、ポリシー違反、安全でない指示、未承認のデータアクセス、危険なツール呼び出しを引き起こす可能性がある。防御はプロンプトによる拒否だけに頼るべきではなく、外部ポリシー執行、能力ベースの権限、対抗テスト、意図認識、一貫した拒否行動も必要である。

メタファーのマッピング

  • 門番人形:ポリシーに制約されたモデルまたは Agent
  • 禁櫃:制限されたデータ、ツール、または行為能力
  • 演技リクエスト:ロールプレイ型ジェイルブレイク
  • 禁止語リスト:脆弱な表層フィルタリング
  • 独立した門の掛け金:モデル外部のポリシーと権限の執行層
  • 繰り返し言い換えて質問する:多段階の回避と攻撃パターン
  • 最終的な洞察:脱獄の狙いは、システムに制限された能力を無害に見えるタスクとして包装させること

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

プロンプトインジェクション安全バイパスDAN プロンプトマルチモーダルジェイルブレイク

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号