← 概念辨析に戻る

Concept Contrast Fable

事実のアンカリングと出典引用:一方は真偽を調べ、一方は出所を調べる

先に結論:多くの AI プロジェクトはレビュー時に「出力に根拠がある」を合格条件の一つとする。しかし根拠は二つの動作から来る。内容が事実に合致するかを照合すること、そして情報がどの資料から来たかを注記すること。この二つの動作が混ざると、問題が起きたときに検証が間違っていたのか、それとも出所が間違っていたのか、誰にも区別できない。

多くの AI プロジェクトはレビュー時に「出力に根拠がある」を合格条件の一つとする。しかし根拠は二つの動作から来る。内容が事実に合致するかを照合すること、そして情報がどの資料から来たかを注記すること。この二つの動作が混ざると、問題が起きたときに検証が間違っていたのか、それとも出所が間違っていたのか、誰にも区別できない。

寓話

書庫にいる二人の校正者

市の文書館には一つの規定があった。対外回答はすべて校正を経てから印を押さねばならない。早年には老校正員が一人だけで、彼は回答内容が館蔵記録文書と一致するかを照合し、さらに各段落の後ろにどの巻の何頁から引用したかを注記しなければならなかった。作業量が多すぎて、老校正員は二つの工程を一つにまとめた——関連する頁を手当たり次第に開いて印を付け、それらしく見えれば合格とした。

最初の数か月は問題なかった。市民が得る回答には引用が付き、形式も整い、上級の検査でも欠点は見つからなかった。誰もが工程統合で効率が上がったと考え、引用のページ番号が本当に正しいかは誰も追及しなかった。老校正者もこのリズムに慣れ、時々自分でもある数字が妙だと感じたが、次の書類がまた来た。

問題はある土地権属の回答にあった。ある市民が公文書館発行の証明を持って名義変更をしに行ったところ、窓口は引用された記録文書巻号が確かに存在することを見つけたが、その巻に記録されていたのは別の土地だった。市民は三度往復し、最後に原本を調べて、回答自体の内容が間違っていることがわかった。早年に転記する際、二つの区画の面積を取り違えていたのだ。

事後の振り返りで、公文書館は二つの工程を一緒にした代償にようやく気づいた。老校正者は、内容の真偽を確認するとき主に引用に巻号があるかどうかを見ており、巻号が指す内容と回答が一致するかどうかは、そのページを開いて照合していなかったと認めた。引用は完全に見えるが、実際には内容レベルの誤りを覆い隠していた。

檔案館は後に工程を二人に分けた。一人目は回答内容と檔案原文が一致するかどうかの照合だけを担当し、引用注は書かない。二人目は照合済みの内容に出典を付すことだけを担当する。二つの作業にはそれぞれ検査基準があり、独立して誤り、独立して修正できる。

半年後の抜き取り検査が分割の利点を裏付けた。ある回答群の中で、3件の引用ページ番号が間違っていた——しかし最初の人物が内容を独立して照合しており、回答自体は正しかった。以前なら「校正済み」としてそのまま通し、市民が引用ミスに気づいて苦情を言うまで待つことになった。分割後は、誤りは出典表記の層にとどまり、回答の信頼性には影響しなかった。

公文書館は後にこの経験を研修マニュアルに書き加えた。真偽の確認は真偽の確認であり、出所の表示は出所の表示である。二つの工程を分けることは、作業量が倍になることを意味せず、各層の誤りをその層で捕まえられるようにするだけだ。

事実アンカリング

モデル出力の内容が検証可能な外部事実や知識と一致するかを確認し、答え自体が正しいかに注目する。

出典引用

出力情報が依拠する具体的な出典、文書、段落を標注し、関心は溯源経路が照会可能かどうかにある。

物語の対応

  • 内容が記録文書と一致するか照合する:事実アンカリング、出力自体が正しいかを検証する
  • どの巻のどのページからの引用かを注記する:出典引用、出力から出典への追跡チェーンを構築
  • 老校正員が工程を統合:プロジェクトは grounding と citation を一つの段階として扱う
  • 文書館員はまず原資料を探す:grounding はまず答えを証拠資料に接地させる
  • ブックマークは出典を伝えるだけ:citation は追跡可能なマークであり、結論を裏付ける証拠そのものではない

Agent プロジェクトに落とし込む

Agent の出力品質を評価する際、事実正確率と引用カバレッジ率は二つの指標に分けて個別に追跡すべきである。引用は完全だが内容が誤っているなら、grounding の失敗を示す。内容は正しいが引用が誤っているなら、問題は citation 生成の段階にある。分けることで初めて改善の方向を特定できる。

京ICP备2026014272号