AIを整える
中級temperature・top-pを整える。
= AIの「ひらめき具合」を決めるツマミ
Temperature が初めての方は、先に そもそも Temperature とは・どんな場面で使うか をどうぞ。
AIは次の1語を選ぶとき、候補それぞれに スコア(ロジット) を付け、 それを 確率 に変えてサイコロを振ります。 その「サイコロの振り方」を決めるのが temperature・top-p・top-k。
temperature
低い=とがる(堅実)/高い=平ら(多様)
top-p (nucleus)
確率の合計が p になるまでの上位だけ残す
top-k
スコア上位 k 個だけ残す
※ このツールは教育用の簡易デモです。候補と数値は挙動を体感するための例で、特定モデルの内部値ではありません。 すべてブラウザ内で計算し、入力はどこにも送信されません。
どの場面で試す?
次の語の確率分布
バーの長さ=softmax後の確率。採用候補(残った語) top-p / top-k で切り捨て
切り捨てられた語(薄いグレー)は、実際の生成では選ばれません。残った語だけで確率を 再正規化(合計100%に直す)してサイコロを振ります。括弧内が再正規化後の確率です。
そもそも Temperature とは
AI の答えの「ばらつき具合」を決めるつまみ。
同じ質問をしても、AI の答えが毎回少しずつ違うのは、次に出す語を確率で選んでいるからです。Temperature(温度)は、その選び方をどれだけ大胆にするかを決める設定値です。低いと毎回ほぼ同じ堅実な答え、高いと意外性のある表現が増えます。
新人に「マニュアルどおりにやって」と頼むのと、「自由にアイデアを出して」と頼むのとの違いに似ています。仕事の性質に合わせて、つまみを回して使い分けます。設定できる範囲や初期値はサービスやモデルによって違い、チャット画面では変えられないこともあります。
どこで・どんな場面で使うか
-
規程の要約やデータの抜き出しをするとき
答えがぶれると困る作業では、低めに設定して安定させます。
-
キャッチコピーやアイデアを出したいとき
高めに設定すると、発想の幅が広がります。
-
同じ質問で結果がぶれて、テストしにくいとき
設定を下げると、結果を比べやすくなります。
-
API で AI をアプリに組み込むとき
用途に合わせて、あらかじめ設定値を決めておきます。
-
言い換えの案を何通りも出させたいとき
少し高めにして、候補を多く出させます。
知らないと何が困るか
- 低くしても、完全に同じ答えになるとは限らない。設定を下げれば安定しますが、毎回まったく同じになる保証はありません。
- 高くしすぎて、不自然な文や事実と違う内容が増える。ばらつきが大きいほど、確認の手間も増えます。
- チャット画面と API の違いを知らない。画面には設定項目がなく、プログラムから呼ぶときだけ指定できる場合があります。
上のツールで、スライダーを動かして、答えの選ばれ方がどう変わるか体感してみてください。
用途別おすすめ早見
| 用途 | temperature | top-p |
|---|---|---|
| 💻 コード生成 | 0.2 | 0.95 |
| 📋 事実回答・要約 | 0.3 | 0.90 |
| 💬 一般的な会話 | 0.7 | 0.90 |
| 🧠 ブレスト・アイデア出し | 1.0 | 0.95 |
| ✍️ 創作・物語 | 1.3 | 0.98 |
しくみ — softmax と各パラメータ
① softmax で確率にする
モデルが各語に付けたスコア(ロジット zi)を、温度 T で割ってから指数関数にかけ、合計が1になるよう割り算します。
- T → 0:差が極端に強調され、最大ロジットの語がほぼ確率1(=貪欲法・常に同じ答え)。
- T = 1:素のスコア通りの確率。
- T が大きい:差がならされ、分布が一様(どの語にも一様にチャンス)に近づく。
② top-p(nucleus sampling)
確率の高い順に足していき、累積が p に達するまでの上位だけを候補に残します(p=0.9 なら「上位で確率の9割」を占める語まで)。 残りは捨て、残った語で再正規化。場面に応じて候補数が自動で変わるのが利点です。
③ top-k
確率上位 k 個だけを残す、シンプルな足切り。k=1 なら常に最有力の1語(貪欲法)。 候補数を固定したいときに使いますが、分布の形に関わらず数で切るので、top-p ほど柔軟ではありません。
📖 このツールで使う用語
用語集トップへ →分からない用語があれば、クリックして解説をご覧ください。
このツールについて
LLMの「温度」と top-p・top-k を実際に動かして、次の語の選ばれ方がどう変わるかを体感。スライダーを動かすと確率分布のバーが即・変化します。コード向けの低温から創作向けの高温まで、用途別おすすめも。
temperature・top-p・top-k を動かすと次の語の確率分布が即変化。低温=とがる/高温=平ら、候補の絞り込みと再正規化をその場で体感。
🔰 かんたんに言うと
AIの「ひらめき具合」を決めるツマミ(temperature)を動かして、答えの散らばり方を体感します。
主な機能
- temperature/top-p/top-k の3スライダーで即反映
- softmax後の確率をバーで可視化(採用/切り捨てを色分け)
- top-p・top-kの絞り込みと再正規化を表示
- 用途別おすすめ(コード低温〜創作高温)5プリセット
- エントロピー/最大確率の指標表示
- 送信ゼロ・全てブラウザ内計算
よくある質問
Q. temperature とは何ですか?
A. 次の語を選ぶ「サイコロの振り方」を決める値です。低い(0付近)ほど最有力の語にほぼ固定され堅実・再現的に、高い(2付近)ほど候補がならされて多様・意外になります。softmax の exp(z/T) の T がこれです。
Q. temperature と top-p、どちらを使えばいいですか?
A. 多くの提供元は「どちらか一方だけ」を推奨します。両方を同時に強くいじると効果が読みにくくなります。まずは temperature だけ動かし、足りなければ top-p に切り替えるのがおすすめです。
Q. top-p(nucleus)と top-k の違いは何ですか?
A. top-p は「確率の合計が p になるまでの上位」を残す(候補数は場面で変動)方式、top-k は「上位 k 個」を数で固定して残す方式です。top-p のほうが分布の形に応じて柔軟です。
Q. temperature=0 にするとどうなりますか?
A. 最大ロジットの語が確率ほぼ1になり、実質「常に最有力の1語」を選ぶ貪欲法になります。同じ入力で毎回同じ出力になり、コードや事実回答で安定します。
Q. このバーの数値は本物のモデルの値ですか?
A. いいえ。挙動を体感するための代表的なロジット例で、特定モデルの内部値ではありません。式(softmax→top-p/top-k→再正規化)は実際のサンプリングと同じ仕組みです。
Q. 入力した内容はどこかに送信されますか?
A. いいえ。スライダー操作も計算もすべてブラウザ内で完結し、サーバーには何も送信しません(送信ゼロ)。
入力値はURLの「#」以降に入るためサーバーには送信されません。リンクを開くと同じ状態を復元します。
続けて整える
この内容は、研修でも扱っています
totonoe.tech を運営する株式会社Koinobori は、法人向けの研修サービス「NOBORIBA®」も運営しています。 ここで手を動かした内容を、講師から教わる形の研修です。このページの道具は無料のまま、登録もいりません。