← 概念解説に戻る

Concept Fable

温度

先に結論:Temperature は生成のランダム性を制御するパラメータである。低い温度では確率分布がより尖り、出力はより安定し保守的になる。高い温度では分布がより平坦になり、多様性が増すとともに誤りの確率も高まる。企業の Agent はタスクのリスクに応じて temperature を設定し、top-k/top-p、フォーマット制約、ファクトの grounding、評価と併せて使用すべきである。

Temperature · Decoding

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

茶炉の火加減を間違えた後の三通の手紙

灯台鎮の信房には茶炉が一つあった。炉火が低いとインクは早く乾き、字は整う。炉火が高いとインクは流れ、筆致に変化が出る。配達人はそれを返信の火加減と呼んだ。

初期にはすべての手紙が同じ火加減だった。請求提醒はとても安定していたが、祝日の挨拶は堅苦しかった。クリエイティブな文案は少し生き生きしていたが、法務通知はだらしなく見えた。新人は火が強いほど賢いと思った。彼は炉の火を高くすると、返信に多くの新鮮な言い回しが現れ、約束すべきでない優待や未確認の細部も現れた。

別の者は火を最低まで抑えた。エラーは減ったが、すべての答えが最も一般的な文型に寄り、複雑な問題の説明は硬く見え、ユーザーはシステムが自分を理解していないと感じた。店主はタスクごとに火加減を調整し始めた。返金ポリシー、コンプライアンス説明、金額確認は弱火。イベントタイトル、内部ブレインストーミング、同義語の書き換えはやや強めでよい。

彼らはさらに火加減と候補籠を一緒に見た。火加減だけを調整してtop-pを見なければ、依然として奇妙な語を入れるかもしれない。top-kだけを行い火加減を調整しなければ、答えが過度に集中するかもしれない。

本番後、品質事故は明らかに減少した。チームは機械に個性があるかどうかを議論せず、現在のタスクにどれだけのランダム性が必要で、どれだけの変化に耐えられるかを問うようになった。店主はそこで手紙をいくつかの種類に分けた。未払い督促は弱火、節慶の挨拶は中火、新客の勧誘にだけ強火を許し、各类の横には越えてはならない約束も貼った。

ある時、店に戻って詫び状を書くことになった。新人は火を強くして熱意を示そうとした。老店主はまず経理係に読み聞かせるよう言い、経理係は二つの文が客に賠償約束と受け取られると指摘したので、火を半段階落とした。

この小さな事故で人々は立ち止まり振り返った。彼らは急いでより響きの良い言い方に変えるのではなく、誤った入口、誤解されたルール、保持すべき境界を一つずつ書き出した。

次第に、信房はどの火加減が最良かを論じ合うのをやめ、まずこの手紙が何を恐れるかを問うた。硬直か、それとも制御不能か。退屈か、それとも喋りすぎか。茶炉は毎日燃え続けた。本当の経験とは、創造性と制御性の両方に値付けが必要で、火加減は業務リスクと結びつけなければならないということだ。

明らかにする

この物語が語るのは:温度

Temperature は生成のランダム性を制御するパラメータである。低い温度では確率分布がより尖り、出力はより安定し保守的になる。高い温度では分布がより平坦になり、多様性が増すとともに誤りの確率も高まる。企業の Agent はタスクのリスクに応じて temperature を設定し、top-k/top-p、フォーマット制約、ファクトの grounding、評価と併せて使用すべきである。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 茶炉の火加減:temperature パラメータ
  • 低火:低ランダム性、安定だが保守的
  • 高火:高ランダム性、多様だがリスクも高い
  • タスクに応じた火加減:異なる業務シナリオに異なる温度を設定
  • 火加減と候補バスケットを一緒に見る:temperature はサンプリング戦略と制約と組み合わせる必要がある

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

samplingtop-ptop-klogitscreativity

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号