← 概念解説に戻る

Concept Fable

ファクトチェック

先に結論:事実検証(Fact Verification)とは、AIが生成した主張・結論・重要事実を、信頼できる情報源、原資料、権威あるシステム、業務記録と照合して確認するプロセスである。ハルシネーション、古い情報、誤読、誤りの伝播リスクを低減するために用いられる。Agentシステムにおいては、対外コミュニケーション、意思決定の提案、コンプライアンス関連コンテンツ、契約資料、影響の大きい業務アクションに特に適している。

Fact Verification · Operations/Risk

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

告示を貼り出す前に、書記は三つの扉を叩かねばならない

雲杉鎮の書記は字を書くのが速かった。鎮が告示を出すとき、彼は言葉を明確に整えられた。道路閉鎖、税期調整、市の日変更、河橋修理。誰もが彼を町で一番公告を書くのがうまいと言った。

ある日、彼は東橋が来週三日間封鎖されると聞き、すぐに告示を書いて街角に貼った。商店主たちは配送時間を変え始め、船夫も遠回りした。しかし翌日、工匠が来て尋ねた。誰が三日間封鎖と言った?我々はただ測量を準備しているだけで、実際の施工はまだ承認されていない。

書記はとても気まずかった。彼は、話は埠頭の管事から聞いたもので、信頼できそうに聞こえたと言った。鎮長は言った。信頼できる人でも一部しか知らないことがある。告示は一度貼り出されれば、もはや噂ではなくなり、多くの人の行動を変えてしまう。

そこで町は新しい規則を定めた。金、道、契約、薬、税、法律、公共の取り決めに影響する告示は、一つの情報源だけに頼ってはならない。書記が書き終えたら、必ず三つの扉を叩く。第一の扉は原記録、第二の扉は担当部門、第三の扉は最新状態である。三か所が一致して初めて貼り出せる。一致しなければ、確認待ちとして書く。

後にまた、北市集が取り消されるという噂が立った。書記は慌てて告示を出さなかった。会議議事録を調べ、市集の責任者に聞き、その日の天気警報も見た。その結果、取り消しではなく一時間延期だとわかった。

今回の告示は驚きが少なく、正確さが増した。商家は無駄に忙しくならず、町民も誤解しなかった。書記は理解した。うまく書くことは最後の一歩にすぎない。貼り出す前に、事実はまず門を通らなければならない。

雲杉鎮は後にこの規則をとても簡単に言い表した。他人を行動させる言葉は、すぐに信じるな。まず確認せよ。书记も不確実なことを書き出すことを学んだ。三つの扉のうち一つがまだ開いていなければ、彼は噂を定論に仕立て上げて全镇に美しい一文の代償を払わせるより、暫定の注意書きを貼ることを選んだ。後に鎮民はかえって彼をより信頼した。书记は不確実なときは不確実だと明示し、鎮印が押されれば、その文字はすでに通るべき扉を通っていると皆が知っていたからだ。

明らかにする

この物語が語るのは:事実検証

事実検証(Fact Verification)とは、AIが生成した主張・結論・重要事実を、信頼できる情報源、原資料、権威あるシステム、業務記録と照合して確認するプロセスである。ハルシネーション、古い情報、誤読、誤りの伝播リスクを低減するために用いられる。Agentシステムにおいては、対外コミュニケーション、意思決定の提案、コンプライアンス関連コンテンツ、契約資料、影響の大きい業務アクションに特に適している。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 書記:回答や公告を生成する AI / Agent
  • 聞き伝えの施工情報:検証されていないモデル根拠や外部情報
  • 告示を貼り出した。AI出力が実際の業務または対外コミュニケーションに使われる
  • 加盟店が配送を変更し、船頭が遠回りする:誤った事実は現実世界の行動コストを引き起こす
  • 三つの扉:複数の信頼できる検証ソースまたは検証ステップ
  • 一次記録:一次証拠、文書、データベース、システム記録
  • 担当部門:権威ある業務 owner または責任システム
  • 最新状態:古い情報の参照を避ける
  • 未確認として書く:検証が不十分なときは不確実性を表し、無理に結論を出さない

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

groundingcitationハルシネーションリスクhuman review監査可能性

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号