寓話
問答坊は書物探し、書物ふるい、書物答えを流れ作業に並べた
北城問答坊は、商人に代わって制度・製品・契約に関する質問に答える専門店だった。最初は年老いた番頭が一人だけで、記憶を頼りに資料をめくり、探しながら答えていた。商人が増えるにつれ、番頭は新しい文書を見落とすようになった。似た質問でも答え方がばらばらになり、引用も古い版を指すことが多くなった。坊主はまず大きな本棚を買い、すべての文書を詰め込んだ。検索は少し速くなったが、ある質問はキーワードが必要で、ある質問は意味の理解が必要で、あるものは証拠の並べ替えまで必要だった。そこで番頭たちにそれぞれ道具を選ばせた。古い索引を使う者、類似の棚を使う者、役所に直接尋ねる者もいた。その結果、処理の流れは追いにくくなり、誤りも再現しにくくなった。
新しい坊主は仕事を流れ作業に分解した。文書はストレージに入り、検索器が候補を探し、再ランク付け器が証拠を選別し、読解器または生成器が答えを組み立てる。
顧客ごとに異なるコンポーネントを切り替えられる。カスタマーサポートのナレッジベースはQ&A寄り、法務資料は引用を重視、製品検索はハイブリッド検索とフィルタが必要。
パイプラインによって問題がより明確に露呈する。ドキュメントがライブラリに入っていないのか、検索がヒットしていないのか、生成器がでっち上げているのか、ついに段階ごとに特定できる。
坊主は依然としてインデックスの更新、権限の分離、評価セット、レイテンシ予算を管理しなければならない。コンポーネントが揃っているからといって、業務の答えが自然に信頼できるわけではない。
彼は、問答の一式装置は一度の機構呼び出しではなく、組み合わせ可能で、観測可能で、交換可能な知識処理パイプラインだと理解した。
新しい坊主はまた答えを検証する小さな机を設けた。店員が答えるたびに、引用を原文のそばに戻して照合しなければならない。証拠が古すぎる、権限上見るべきでない、または答えが資料を越えている場合、パイプライン全体を差し戻して調整する。
数か月後、問答坊は大口顧客を獲得した。顧客が求めたのは話せる店員ではなく、棚を替え、物差しを替え、誤りを調べ、出所を証明できるプロセスだった。坊主はそこで知った。本当に価値があるのは、資料探し、証拠の選別、回答の構成をガバナンス可能な作業に変えることだと。顧客が別の書棚や別の回答者を求めても、流水線はそれを受け止められ、問答坊全体を壊す必要はない。これにより、各改造は問題の出た一段から着手できる。