← 概念解説に戻る

Concept Fable

Top-p サンプリング

先に結論:Top-p Sampling は Nucleus Sampling とも呼ばれ、累積確率が p に達する最小の候補集合を選び、その中でサンプリングする。top-k よりも分布の形に適応しやすく、確定的なタスクでは候補が少なく、オープンなタスクでは候補が多い。企業 Agent は多様性の制御によく使うが、事実性は解決せず、grounding、引用、ツール結果、安全フィルタと組み合わせる必要がある。

Top-p Sampling, Nucleus Sampling · Decoding

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

九割の確信が揃うまで箱を封じる

語り手は舞台に上がる前に、単語袋から次の一句を選ぶ。最もよく使われる語ばかり選べば、物語は安定するが単調になる。珍しい語すべてに等しい機会を与えれば、聴衆は奇妙な文につまずくことが多い。

若い語り手は固定数で語を選んでみた:毎回最初の十個だけを見る。しかし良い語が集中する時は十個では多すぎ、場面が広い時は十個では少なすぎた。固定の籠は今の局面を理解しない。

老先生は方法を変えた。まず最もつながりやすい語を順に籠に入れ、それらを合わせて大部分の可能性を覆うまで待ってから、籠から引く。明確な場面では籠は自然と小さくなり、開かれた場面では籠は大きくなる。

ある時、弟子がカバーラインを低くしすぎると物語が堅苦しくなり、高くしすぎると奇妙な言葉が混じった。そこで彼は芝居の性質に応じてラインを調整した。告示は安定を、伝奇は緩さを許す。

老芸人はまず場面を見てから言葉を取らせた。王宮の話になると、常用語だけで筋を十分に支えられるので、籠は小さくてよい。海の怪物や異国の港の話になると、常用語は狭すぎるので、可能性のある言葉をもっと多く入れねばならない。籠の大きさは固定ではなく、前の言葉を合わせてすでに可能性の大半を覆えているかどうかで決まる。

若者はそのとおりにすると、物語はもはや硬直的でなくなり、妙な文も減った。彼はすべての言葉を舞台に載せるのでも、常に最初の十語だけを取るのでもなく、まず最も有望な一群の言葉を囲い込み、そこから次の一句を選んだ。聴衆は新鮮に感じながらも、ついていけた。

彼はまた、緊張する場面では籠を狭め、気楽な旅では籠を広げることを学んだ。範囲は場面に応じて変わり、選択に秩序と驚きの両方が生まれる。聴衆は規則を聞こえないが、リズムが安定したことは感じ取れる。彼はまた、緊張する場面では籠を狭め、気楽な旅では籠を広げることを学んだ。範囲は場面に応じて変わり、選択に秩序と驚きの両方が生まれる。聴衆は規則を聞こえないが、リズムが安定したことは感じ取れる。彼はまた、緊張する場面では籠を狭め、気楽な旅では籠を広げることを学んだ。範囲は場面に応じて変わり、選択に秩序と驚きの両方が生まれる。聴衆は規則を聞こえないが、リズムが安定したことは感じ取れる。

この抽詞法の妙は、いくつかの候補に固執せず、かといって全场の乱入も許さない点にある。まず最も可能性の高い一簇を囲い、その中で少しの変化を保つ。

明らかにする

この物語が語っているのは:Top-p サンプリング

Top-p Sampling は Nucleus Sampling とも呼ばれ、累積確率が p に達する最小の候補集合を選び、その中でサンプリングする。top-k よりも分布の形に適応しやすく、確定的なタスクでは候補が少なく、オープンなタスクでは候補が多い。企業 Agent は多様性の制御によく使うが、事実性は解決せず、grounding、引用、ツール結果、安全フィルタと組み合わせる必要がある。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 累積確率が九割に達する:top-p 閾値
  • 箱の大きさはタスクに応じて変わる:候補集合が確率分布に応じて適応する
  • 箱内から重みに基づいて選択:nucleus 内でサンプリング
  • 禁忌表と証拠チェック:top-p の外にある事実と安全の制約
  • 固定人数を迷信しない:top-pがtop-kに対して持つ優位性

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

samplingnucleus samplingtop-ktemperature

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号