← 概念辨析に戻る

Concept Contrast Fable

事実の固定と忠実性。一つは本当のことを言ったかを管理し、もう一つは自分で作話していないかを管理する。

先に結論:事実アンカリングは、モデル出力と外部知識源(文書、データベース、検索結果)との間の一致性を測る。忠実性は、モデル出力と与えられた入力やコンテキストとの間の保真度を測る——与えられた基盤の上に勝手に付け加えていないか。どちらも品質指標のように見えるが、一方は外を見て、一方は内を見る。

事実アンカリングは、モデル出力と外部知識源(文書、データベース、検索結果)との間の一致性を測る。忠実性は、モデル出力と与えられた入力やコンテキストとの間の保真度を測る——与えられた基盤の上に勝手に付け加えていないか。どちらも品質指標のように見えるが、一方は外を見て、一方は内を見る。

寓話

二人の史官がいた。一人は原文と合うかだけを見て、もう一人は自分の言葉を加えていないかを見た

翰林院には二つの文書保管室がある。一つは外部の朝報と地方の奏折を収め、もう一つは翰林院自身の起注稿を留める。実地検証に派遣された二人の史官にはそれぞれ自分の規則がある。趙史官は一段書き終えるごとに、まず朝報と奏折を開いて照合する。辺境の糧価、駐軍の編制、河道の水位、照合できるものを「站得住」と呼ぶ。銭史官は朝報を見ず、自分の起注稿に記された引用原文だけを見る。稿に辺軍が六営駐屯したとあれば、原文には四営しか書かれておらず、余分な二営は「自分の言葉を加えた」ことになる。

最初の合稿検証で、二つの稿にそれぞれ一箇所ずつ異常がマークされた。趙史官の稿には「河道の水位が五尺二寸まで上昇」とあり、朝報と照合すると朝報も確かに五尺二寸と書いていた——事実のアンカリングはできていた。しかし原文の起注稿には「水位が異常に高い」と書かれており、趙史官は「異常に高い」を「五尺二寸」に変えていた——数字は朝報と一致するが、原文の意味とは一致しない。銭史官の稿は数字を変えていなかったが、「水位が異常に高く、上流の決壊が疑われる」という一節を書いていた。「決壊が疑われる」という四文字はどの情報源にもなかった。

第二回の検証で、二人の史官は対象を交換した。銭史官は趙史官の原稿を持って朝報と照合した——数字はすべて正確で、アンカリングは満点。趙史官は銭史官の原稿を持って原文と照合した——忠実性は合格で、原文にない内容は一切書かれていなかった。二つの検証報告の結果はまったく異なった。同じ原稿が、アンカリング基準では精品、忠実性基準では半粗としか言えない。

翰林院で検証を主宰する学士が最も危険な状況を発見した。趙史官の稿子は数字が朝報と合っていたが、朝報が引用した原奏折の数字は主筆が改変していた。錨の連鎖が切れ、上流が虚偽データなら、下流の数字がどれほど正確でも誤りである。銭史官の稿子は余分な内容を書いていなかったが、一部の数字は原文の曖昧な記述を趙史官が朝報で校正したものであり、銭史官の忠実性基準ではこの出所が見えない。

学士は一つの決断をした。今後、校正には二つの関門を設ける——第一関門では、稿と与えられた原文との間に余分な捏造があってはならない。第二関門では、稿中で引用された具体的な数字と名称について、追跡可能な外部ソースが見つからなければならない。第一関門を通らない稿は直ちに返し、第一関門を通ったものだけが第二関門に進む。

年末の総評で、学士は一段のまとめを書いた。アンカリングが管理するのは「あなたの言うことが外部の記録と一致するか」、忠実性が管理するのは「あなたが前に与えられた資料に勝手に何かを加えていないか」。両者が測るのは同じことではない——一対一で照合した稿は原文に不忠実かもしれず、原文に忠実な稿は事実と合わないかもしれない。品質評価には二つの関門が必要で、異なる順序で進む。

事実アンカリング

モデル出力と外部の事実源(文書、知識ベース、検索の返却結果)との一致度を測る。それは「出力が真実の外部来源に遡れるか」に答える。

忠実性

モデル出力が与えられた入力またはコンテキストとの間でどの程度忠実かを測る。これは「出力が与えられた材料に厳密に基づき、自ら追加、推論、捏造していないか」に答える。

物語の対応

  • 趙史官が朝報の数字を検証する:事実アンカリング——外部知識源で出力事実を検証する
  • 銭史官が原文に照らして追加を確認する:忠実性——出力が与えられた入力と厳密に一致しているか
  • 同じ原稿が満点に固定されるが忠実性は半粗:二つの次元は異なる側面の品質を評価している
  • 朝報の元の奏折データは主筆によって改変されていた:アンカリングチェーンの上流に問題があると、下流のアンカリング結果も信頼できない
  • 原文の曖昧な記述が朝報で校正される:忠実性は校正の出所を見えないが、アンカーされた介入は出力の意味を変え得る
  • 学士の二関門検証ルール:まず忠実性(捏造しない)を確認し、次にアンカリング(追跡可能)を確認する。二関門の順序が重要である

LLM アプリケーションの品質評価に落とし込む

RAG または検索拡張の LLM アプリケーション評価では、事実のアンカリングと忠実性を同時に見る必要がある。まず忠実性を確認する。出力が与えられた検索結果の範囲内で回答しているか、モデル自身の知識に勝手に逃げていないか。次にアンカリングを確認する。出力中の事実点が本当に検索結果に明確な出所を持っているか。最も隠れた問題は、忠実性は合格だがアンカリングが失敗する場合だ。このときシステムは検索結果を忠実に引用しているが、検索結果自体が間違っている。あるいはアンカリングは合格だが忠実性が失敗する場合だ。このときシステム知識が検索結果の欠落を覆っているが、追跡不能な内容が混入している。二つの指標は別々に報告し、一つの平均点に統合してはならない。

京ICP备2026014272号