← 概念解説に戻る

Concept Fable

ベスト・オブ・Nサンプリング

先に結論:Best-of-Nサンプリングは「複数候補から最良を選ぶ」とも理解できる。システムは一度にN個の候補回答を生成し、スコアラー、ルール、検証器、または人手の基準で最良の一つを選ぶ。モデルに一度だけ生成させるのではなく、リクエスト時に計算を多く費やしてより高い品質を得る。

Best-of-N Sampling · 推論

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

陶坊は一度にいくつかの杯を焼き、それから検杯師に一つ選ばせる

灯謎屋はもともと一連の慣れたやり方で回っていた。主人は番頭に、謎を思いついたら見せに来るように言い、昔のリズムで灯謎を掛けるときはめったに失敗しなかった。町の人々も賑わいを楽しみにしていた。

その後、事態は大きくなった。中秋には最も妙なる謎面を掲げねばならず、催促の声が早朝から夕方まで並んだ。新人はこれを数量の問題だと思い、人を増やし時間を延ばせばよいと考えた。しかし老人は、多くの細部がすでに旧来の方法で耐えられる境界を越えているのを見ていた。

掌事人は最初の方法を試した:店員が一句思いつくたびにすぐ壁に貼り出す。最初の数日は確かに改善が見え、行列は短くなり、外部の人もこの職人技がついに新しい場面に追いついたと感じた。

しかし厄介ごとはすぐに姿を変えた。進度を急ぐために検査を省く者、不適切な仕事を無理に古いプロセスに押し込む者、最も熟練した者がかえって雑事に足を取られた。誤りは常に表に見えるとは限らず、納品後に初めて現れることが多い。 古い帳簿は来歴を説明できても、次にどう直すべきかは説明できない。

主事人はさらに規則を加え、各人にもっと署名し、もっと報告し、保護の層をもう一枚補うよう求めた。紙の上では周到に見えたが、現場はさらに遅くなった。職人たちは自分に非がないことを証明するのに忙しく、本当の亀裂は依然として元の場所で広がっていた。傍観者には結果が良くなったり悪くなったりするようにしか見えず、現場の者は速度、品質、責任のどれを先に救うべきかますます判断しにくくなった。 誰もが自分は少し多くやったと思っていたが、全体としての物事はそれによってより安定することはなかった。

寡黙な老職人はいくつかの失敗を机の上に並べた。彼は誰も責めず、皆に同じ細部を見せた。新しい制限は日常の練習にまったく入らず、納品直前に突然現れるだけだった。彼は数回の手戻りを発生順に並べ、そこで皆は、誤りがいつも同じ曲がり角で拡大されることに気づいた。

そこで作坊は新規則に変えた:同じ題で複数份を書き、老読者が最も明確な一份を選ぶ。最初は誰もが慣れず、手足を縛られたようだった。しかし数ラウンドを経て、粗雑な近道は遮られ、本当に堅実な動作がゆっくりと残った。

同じ圧力に再び直面した時、納品は派手にはならなかったが、明らかにより信頼できるものになった。店主はついに理解した:何稿も試してから選ぶと、壁に掛ける品質は高まるが、紙と墨も多く消費する。最後になってから補修するなら、代償はすでに前の各選択に埋め込まれていることが多い。この新しい道はコストを消滅させなかったが、コストを早めに姿を現させ、まだ変更できるうちに処理しやすくした。

明らかにする

この物語が語るのは:ベスト・オブ・N サンプリング

Best-of-Nサンプリングは「複数候補から最良を選ぶ」とも理解できる。システムは一度にN個の候補回答を生成し、スコアラー、ルール、検証器、または人手の基準で最良の一つを選ぶ。モデルに一度だけ生成させるのではなく、リクエスト時に計算を多く費やしてより高い品質を得る。

代償は、候補数が増えるにつれてコストと遅延が通常増加することであり、選択基準も信頼できなければならない。評価器が偏っていれば、システムは見た目は良いが実際には正しくない答えを、より安定して選ぶだけかもしれない。

メタファーのマッピング

  • いくつかの杯:multiple sampled candidate outputs
  • 杯の検証者:reward model、verifier、またはscoring rubric
  • 薪のコスト:extra inference tokens, latency, and compute
  • 注文ごとに異なる数量を使う:adaptive N based on value or difficulty
  • 客には一つの杯しか見えない:only selected answer is returned
  • 美しいが耐久性がない:weak verifier can select superficially good but wrong outputs

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

rejection samplingreward model推論時計算
京ICP备2026014272号