本文へスキップ
totonoe.tech

AIを整える

中級

temperature・top-pを整える。

= AIの「ひらめき具合」を決めるツマミ

Temperature が初めての方は、先に そもそも Temperature とは・どんな場面で使うか をどうぞ。

AIは次の1語を選ぶとき、候補それぞれに スコア(ロジット) を付け、 それを 確率 に変えてサイコロを振ります。 その「サイコロの振り方」を決めるのが temperature・top-p・top-k。

temperature

低い=とがる(堅実)/高い=平ら(多様)

top-p (nucleus)

確率の合計が p になるまでの上位だけ残す

top-k

スコア上位 k 個だけ残す

※ このツールは教育用の簡易デモです。候補と数値は挙動を体感するための例で、特定モデルの内部値ではありません。 すべてブラウザ内で計算し、入力はどこにも送信されません。

どの場面で試す?

0.70
0 = ほぼ一択(堅実) 1.0 2.0 = 平ら(多様・荒れる)
1.00
0.05 = 上位だけ厳選 1.00 = 制限なし
0
0 = 制限なし 上位 k 個だけ(候補は最大8個)
用途別おすすめ:

次の語の確率分布

バーの長さ=softmax後の確率。採用候補(残った語) top-p / top-k で切り捨て

切り捨てられた語(薄いグレー)は、実際の生成では選ばれません。残った語だけで確率を 再正規化(合計100%に直す)してサイコロを振ります。括弧内が再正規化後の確率です。

そもそも Temperature とは

AI の答えの「ばらつき具合」を決めるつまみ。

同じ質問をしても、AI の答えが毎回少しずつ違うのは、次に出す語を確率で選んでいるからです。Temperature(温度)は、その選び方をどれだけ大胆にするかを決める設定値です。低いと毎回ほぼ同じ堅実な答え、高いと意外性のある表現が増えます。

新人に「マニュアルどおりにやって」と頼むのと、「自由にアイデアを出して」と頼むのとの違いに似ています。仕事の性質に合わせて、つまみを回して使い分けます。設定できる範囲や初期値はサービスやモデルによって違い、チャット画面では変えられないこともあります。

どこで・どんな場面で使うか

  • 規程の要約やデータの抜き出しをするとき

    答えがぶれると困る作業では、低めに設定して安定させます。

  • キャッチコピーやアイデアを出したいとき

    高めに設定すると、発想の幅が広がります。

  • 同じ質問で結果がぶれて、テストしにくいとき

    設定を下げると、結果を比べやすくなります。

  • API で AI をアプリに組み込むとき

    用途に合わせて、あらかじめ設定値を決めておきます。

  • 言い換えの案を何通りも出させたいとき

    少し高めにして、候補を多く出させます。

知らないと何が困るか

  • 低くしても、完全に同じ答えになるとは限らない。設定を下げれば安定しますが、毎回まったく同じになる保証はありません。
  • 高くしすぎて、不自然な文や事実と違う内容が増える。ばらつきが大きいほど、確認の手間も増えます。
  • チャット画面と API の違いを知らない。画面には設定項目がなく、プログラムから呼ぶときだけ指定できる場合があります。

上のツールで、スライダーを動かして、答えの選ばれ方がどう変わるか体感してみてください。

用途別おすすめ早見

用途 temperature top-p
💻 コード生成 0.2 0.95
📋 事実回答・要約 0.3 0.90
💬 一般的な会話 0.7 0.90
🧠 ブレスト・アイデア出し 1.0 0.95
✍️ 創作・物語 1.3 0.98
⚠ temperature と top-p の併用は注意。多くの提供元は「どちらか一方だけ調整」を推奨しています。 両方を同時に強くいじると効果が読みにくくなるので、まずは temperature だけ、または top-p だけを動かすのがおすすめです。

しくみ — softmax と各パラメータ

① softmax で確率にする

モデルが各語に付けたスコア(ロジット zi)を、温度 T で割ってから指数関数にかけ、合計が1になるよう割り算します。

pi = exp(zi / T) / Σj exp(zj / T)
  • T → 0:差が極端に強調され、最大ロジットの語がほぼ確率1(=貪欲法・常に同じ答え)。
  • T = 1:素のスコア通りの確率。
  • T が大きい:差がならされ、分布が一様(どの語にも一様にチャンス)に近づく。

② top-p(nucleus sampling)

確率の高い順に足していき、累積が p に達するまでの上位だけを候補に残します(p=0.9 なら「上位で確率の9割」を占める語まで)。 残りは捨て、残った語で再正規化。場面に応じて候補数が自動で変わるのが利点です。

③ top-k

確率上位 k 個だけを残す、シンプルな足切り。k=1 なら常に最有力の1語(貪欲法)。 候補数を固定したいときに使いますが、分布の形に関わらず数で切るので、top-p ほど柔軟ではありません。

このツールについて

LLMの「温度」と top-p・top-k を実際に動かして、次の語の選ばれ方がどう変わるかを体感。スライダーを動かすと確率分布のバーが即・変化します。コード向けの低温から創作向けの高温まで、用途別おすすめも。

temperature・top-p・top-k を動かすと次の語の確率分布が即変化。低温=とがる/高温=平ら、候補の絞り込みと再正規化をその場で体感。

🔰 かんたんに言うと

AIの「ひらめき具合」を決めるツマミ(temperature)を動かして、答えの散らばり方を体感します。

主な機能

  • temperature/top-p/top-k の3スライダーで即反映
  • softmax後の確率をバーで可視化(採用/切り捨てを色分け)
  • top-p・top-kの絞り込みと再正規化を表示
  • 用途別おすすめ(コード低温〜創作高温)5プリセット
  • エントロピー/最大確率の指標表示
  • 送信ゼロ・全てブラウザ内計算

よくある質問

Q. temperature とは何ですか?

A. 次の語を選ぶ「サイコロの振り方」を決める値です。低い(0付近)ほど最有力の語にほぼ固定され堅実・再現的に、高い(2付近)ほど候補がならされて多様・意外になります。softmax の exp(z/T) の T がこれです。

Q. temperature と top-p、どちらを使えばいいですか?

A. 多くの提供元は「どちらか一方だけ」を推奨します。両方を同時に強くいじると効果が読みにくくなります。まずは temperature だけ動かし、足りなければ top-p に切り替えるのがおすすめです。

Q. top-p(nucleus)と top-k の違いは何ですか?

A. top-p は「確率の合計が p になるまでの上位」を残す(候補数は場面で変動)方式、top-k は「上位 k 個」を数で固定して残す方式です。top-p のほうが分布の形に応じて柔軟です。

Q. temperature=0 にするとどうなりますか?

A. 最大ロジットの語が確率ほぼ1になり、実質「常に最有力の1語」を選ぶ貪欲法になります。同じ入力で毎回同じ出力になり、コードや事実回答で安定します。

Q. このバーの数値は本物のモデルの値ですか?

A. いいえ。挙動を体感するための代表的なロジット例で、特定モデルの内部値ではありません。式(softmax→top-p/top-k→再正規化)は実際のサンプリングと同じ仕組みです。

Q. 入力した内容はどこかに送信されますか?

A. いいえ。スライダー操作も計算もすべてブラウザ内で完結し、サーバーには何も送信しません(送信ゼロ)。

入力値はURLの「#」以降に入るためサーバーには送信されません。リンクを開くと同じ状態を復元します。

続けて整える

totonoe.tech を運営する株式会社Koinobori は、法人向けの研修サービス「NOBORIBA®」も運営しています。 ここで手を動かした内容を、講師から教わる形の研修です。このページの道具は無料のまま、登録もいりません。

運営サイト

私たちが運営するサイト