Quiz · N-gram Language Model

ナイーブベイズで文生成のクイズ

3 問。すべて選んだら採点ボタンを押してください。

Q1. マルコフ仮定 (n-gram) で文脈を「直近 n-1 個」だけに絞る目的は?

計算コスト・パラメータ数を抑えるための近似その方が精度が必ず高くなる数学的に厳密な唯一の式ニューラルネットの構造的制約

Q2. 語彙サイズ V=10,000 の trigram モデルで最悪必要となるエントリ数は?

約 10^4 約 10^8 約 10^12 約 10^16

Q3. N-gram が「犬が走る」と「猫が走る」の意味的類似性を活かせない根本理由は?

学習データが少ないからトークンを離散的な記号として扱い、意味の連続性 (近さ) を表現できないマルコフ仮定が悪いから最尤推定が原理的に弱い