← 概念解説に戻る

Concept Fable

LLM 可観測性

先に結論:LLM Observability は、LLM/Agent アプリケーションの入力、prompt、モデル呼び出し、検索、ツール呼び出し、出力、遅延、エラー、コスト、品質指標を収集、追跡、分析することです。チームがハルシネーション、検索失敗、コスト異常、ベンダー問題、バージョン回帰を特定するのを助けます。企業導入では、プライバシー保護、サンプリング、テナント分離、評価/アラートシステムとの連携を同時に考慮する必要があります。

LLM Observability · 可観測性

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

道を尋ね、帳簿を調べ、言い換えるたびを見る

隊商は一人の書記を雇った。隊長の代わりに道を尋ね、契約をめくり、返信を書き、荷運び人を呼べる。当初、隊長は結果だけを見た。荷は届いたか、手紙は返ったか。

商売が増えると、失敗の調査が難しくなった。時に書記が契約を取り違え、時に鍵を持たない脚夫を呼び、時に駅伝の遅延で急信が時刻を過ぎた。最後の一張の受領証だけを見ても、どこが壊れたか誰も説明できない。隊長は最初、より勤勉な書記に替えればよいと思い、二人続けて替えたが、誤り方は変われど混乱は減らなかった。問題は各委託が経る環節に隠れていた。

経理係はまず成功牌を掛け、毎日「本日何件成約」と書いた。数字は上下するが、理由は教えてくれない。同じ一件の失敗でも、口令のバージョンが変わったためかもしれず、道しるべが古くなったためかもしれず、脚夫に倉庫への立入資格がなかったためかもしれない。

老経理係は行程簿に切り替えた。各委託は入り口から始まり、原文、使用した信牌、どの契約巻を調べたか、どの脚夫を呼んだか、どれだけ灯油を使ったか、どれだけ待ったか、どの段階で拒否されたか、最後にどう返信したかを記録する。行程簿は最初あまりに粗く、「契約を調査済み、脚夫を呼び済み」とだけ記していた。振り返りでもどの巻、どの脚夫、どの鍵が誤ったか分からなかったため、経理係は記録の粒度をさらに一段細かくした。

最初の振り返りで、彼らは書記が愚かになったのではなく、新しい契約が二巻に裁断され、重要な例外条項が後の巻に落ち、前の巻だけではすでに答えるのに十分に見えたことを発見した。

後に行程簿は鈴とつながった。ある道がよくタイムアウトし、ある種の契約がよく頁を落とし、ある脚夫が頻繁に拒否されることを、経理係は早く見つけられる。敏感な客商の名前は暗号で記し、帳簿自体の漏洩を避ける。

行程簿も誰にでも自由に見せていたわけではなかった。隊長は傾向と異常だけを見て、会計係は細部まで見られ、外来の商人は自分の依頼に関する受領証だけを見られた。過程を見えるようにすることとプライバシーを守ることは、一緒に設計しなければならない。

商隊はついに理解した、仕事をこなす書記はただのブラックボックスではいけないと。それを改善するには、各ステップで何を使い、どれだけ待ち、いくら費やし、どこで誤ったかを見る必要がある。それ以来、隊長は結果を見ると同時に過程も見た。見える環節だけが修復される機会を得る;見えない誤りは、ただ別の日に繰り返されるだけだ。

明らかにする

この物語が語るのは:LLM可観測性

LLM Observability は、LLM/Agent アプリケーションの入力、prompt、モデル呼び出し、検索、ツール呼び出し、出力、遅延、エラー、コスト、品質指標を収集、追跡、分析することです。チームがハルシネーション、検索失敗、コスト異常、ベンダー問題、バージョン回帰を特定するのを助けます。企業導入では、プライバシー保護、サンプリング、テナント分離、評価/アラートシステムとの連携を同時に考慮する必要があります。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 仕事をこなす書記:LLM Agent アプリケーション
  • 結果だけを見る:経路の可視性が欠けている
  • 各ステップを記録する:traces、logs、metrics、events
  • chunk 分割の問題:可観測性が RAG の根本原因の特定を助ける
  • マスキングとテナント分離:本番観測のデータガバナンス要件

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

ログ (Logging)指標(Metrics)トレーシング (Tracing)LangSmithMLflow

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号