Quiz · Sampling from Distribution

確率分布からのサンプリングのクイズ

3 問。すべて選んだら採点ボタンを押してください。

Q1. Temperature を 0 にすると、サンプリングはどうなるか?

完全ランダムに 1 つ選ぶ最大確率の単語が常に選ばれる (greedy / argmax) エラーになる全ての候補が等確率になる

Q2. Top-p (nucleus) サンプリングの特徴を最も正しく説明するのは?

常に上位 p 個を残す累積確率が p を超えるまでの単語を残す確率 p 未満を全部消す p% の確率で完全ランダムに 1 つ選ぶ

Q3. 純粋な greedy (argmax) サンプリングが実用であまり使われない理由は?

計算が遅すぎる繰り返しに陥り多様性がなくなる確率の計算が不正確ハルシネーションを大量発生させる