AI & Machine Learning クイズ: 温度、Top-k、Top-p

サンプリングの設定は、モデルの出力がどれだけ予測しやすいか、あるいは創造的かを決めます。このクイズでは、温度が確率に何をするのか、top-k や top-p(nucleus)サンプリングがトークンをどう絞り込むのか、どのタスクにどの設定が合うのかを、いくつかの小さな計算を交えて確認します。

ふつう 10問 約6分 合格ライン 80%

モードを選ぶ

ゲストとしてプレイ中です。ログインすると XP と連続記録が保存されます。

例題

第1問 / 全10問

温度は数学的には何をしていますか?

答えを見る

B. ソフトマックスの前にロジットを温度で割り、確率分布を鋭くしたり平らにしたりする 確率は softmax(logits / T) です。温度が 1 未満なら分布はより尖り、1 より大きければより平らになります。重みと入力は変わりません。

このクイズの内容

  • ソフトマックスの前にロジットを割る操作としての温度
  • 低い温度と高い温度、そして 0 に近い温度
  • 再正規化を伴う top-k と top-p(nucleus)サンプリング
  • 情報抽出とブレインストーミングでの設定の選び方
  • 繰り返しペナルティと頻度ペナルティ

よくある質問

アカウントは必要ですか?

いいえ、誰でも遊べます。ログインすると XP、連続記録、バッジ、履歴が保存されます。

何度でも挑戦できますか?

はい。ベストスコアが記録され、問題と選択肢は毎回シャッフルされます。