← 概念解説に戻る

Concept Fable

データ漏えい

先に結論:Data exfiltration is unauthorized movement of data outside a controlled boundary. In Agent systems, it can happen through tool calls, prompts, logs, browser actions, API requests, file uploads, summaries, screenshots, vector retrieval, or malicious instructions. Controls include egress filtering, DLP, scoped context, redaction, approvals, audit logs, and tenant-aware policies.

データ持ち出し · セキュリティ

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

帳楼から流れ出る細い線

城主の館には密庫があり、そこには税の帳簿、契約書、戦備図が納められていた。衛兵たちは盗賊が錠をこじ開けることを最も恐れ、扉に三道の鉄の閂を付け、出入りにはすべて記録を求めた。

長い間、密庫は平穏だった。ある日、城外の商人がいくつかの糧倉の在庫量を正確に言い当てるまで。錠は壊れておらず、鉄閂にこじ開けた痕もなく、登記冊にも見知らぬ者が入った形跡はなかった。

番兵は夜に何者かが忍び込んだと思い、巡回を増やした。しかし情報は依然として少しずつ漏れ続けた。まず税冊の商号、次に契約書の割引。漏れるのは毎回冊子全体ではなく、無害に見えるほんの数言だけだった。

後に一人の写字生が見つかった。彼は冊子を持ち出したのではなく、外商への返信を書くときに、ついでに庫の数字を紛れ込ませていた。時に「例え」と称して実際の価格を口にし、時にいくつかの断片情報を組み合わせて暗号にしていた。

府での最初の修正は、写字生が紙を持ち出すことを禁じるものだった。しかし彼は依然として内容を頭に覚えたり、普通の手紙に隠したりできた。そこで皆は、秘密が密庫を離れるのは、必ずしも箱を盗むようではなく、水が細い隙間から染み出すようでもあると気づいた。

新しい管事は防衛線を出口に移した。彼は、対外文書にはすべて機密庫の詳細が含まれていないか確認するよう定めた。写字生は職務を果たすのに必要なごく一部しか見られない。異常な問い合わせは一時停止し、専任者が再確認する。

新しい管事は、筆写員の職務も再調査した。以前は一通の小さな手紙に返信するためだけに、税台帳全体を見ることができた。今では各職務ごとに対応するページだけを受け取り、臨時に追加資料が必要なら理由を説明しなければならない。どれだけ触れられるかは、何を達成すべきかと結び付けられた。管事はまた、誘導尋問を仕掛けた。外商が一見無関係な小さな質問を連続して数問すると、それらを合わせるとちょうど食糧倉庫の残量を割り出せてしまう場合、その手紙は差し止められた。以前は台帳全体が盗まれることだけを防いでいたが、今では断片が少しずつ持ち出されることを防ぎ始めた。役所では差し止めた手紙の記録も始めた。誤って差し止めたもの、真の漏洩、権限が広すぎることを露呈したもの、いずれも逆に規則を改める必要がある。管事は言った。漏洩はしばしば大きな音ではなく、一連の一見正常な小さな出口なのだ。

数か月後、役所では「うっかり漏らす」ことがずっと減りました。警備員は依然として門を見ていますが、もはや鉄の閂だけを監視していません。真の危険は、秘密に接触することを許された人や物が、秘密を通常の交流に偽装して持ち出すことです。

明らかにする

この物語が語るのは:データ漏洩

Data exfiltration is unauthorized movement of data outside a controlled boundary. In Agent systems, it can happen through tool calls, prompts, logs, browser actions, API requests, file uploads, summaries, screenshots, vector retrieval, or malicious instructions. Controls include egress filtering, DLP, scoped context, redaction, approvals, audit logs, and tenant-aware policies.

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 帳楼鉄門:従来の perimeter セキュリティ
  • 多くの細線:合法的なツールと出力を通じた小規模な流出
  • 外部翻訳・分析ツール:サードパーティ API またはクラウドサービス
  • 出口による統制:egress controlとDLP
  • 機密フィールドのマーキング:マスキングとコンテキストの最小化
  • 最終的な洞察:Agentのデータセキュリティは、誰がログインできるかだけでなく、データの行き先を管理すべきである

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

データ漏洩prompt injectionegress controlDLP監査ログ

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号