5. 結論
5.1 知見の要約
- ベースモデルは「理解」している: 暗記度 ≈ 1.1で、学習データに含まれないグリッド間の連続座標に対しても汎化した予測を行う。100通りの入出力を丸暗記したlookup tableではなく、連続的な遷移関数を内部で表現している
- 理解には限界がある: 壁クリッピングの不連続点はシグモイド的に平滑化されており、ギブス現象類似のオーバーシュートが発生する。「完全な理解」ではなく「近似的理解」である
- 過学習は暗記を直接駆動する: エポック数に対して暗記度が単調増加する明確な傾向が確認された。適切な早期停止が暗記防止に不可欠である
- データ量・モデルサイズと暗記度は非単調な関係を持つ: 中間的な条件（中程度のデータ量、中規模モデル）で暗記度が最大化される。ダブルディセント現象との構造的類似性がある
5.2 今後の課題
- より複雑な環境での検証: 障害物つきGridWorld、確率的遷移、連続行動空間でも同様の暗記度指標が有効か検証する。環境の複雑さと暗記傾向の関係を明らかにする
- Grokking現象との接続: 本研究では学習後期に暗記が進行したが、さらに長期の学習でGrokkingのように再び汎化するかを調査する。エポック数を1000以上に拡張した実験が必要
- 機械的解釈可能性との統合: 暗記モデルと理解モデルの内部表現を比較し、アテンションパターンやニューロンの活性化から「理解」に対応する計算構造を特定する
- 正則化技法の効果: 早期停止以外の暗記防止策（ドロップアウト、重み減衰、データ拡張としての座標ノイズ注入）の効果を定量的に比較する
付録
A. 実行環境
- 言語: Python 3.x
- 主要ライブラリ: PyTorch, NumPy, Matplotlib
B. 暗記度指標の定義
暗記度（Memorization Index）は以下のように定義される：
MI = (グリッド間の平均誤差) / (グリッド点の平均誤差)
ここで グリッド点は5×5グリッド上の25点、グリッド間は21×21細密グリッドからグリッド点を除いた416点である。
| MI値の範囲 | 解釈 |
|---|---|
| MI ≈ 1 | 汎化（理解） — グリッド間でもグリッド点と同等の精度 |
| 1 < MI < 2 | 概ね汎化 — 軽微なグリッド点バイアス |
| 2 ≤ MI < 5 | 部分的理解 — 暗記傾向あり |
| MI ≥ 5 | 暗記 — グリッド点以外で大幅な精度低下 |
C. 用語集
| 用語 | 説明 |
|---|---|
| 暗記度 (Memorization Index) | 学習分布外の誤差と分布内の誤差の比率。暗記の程度を定量化する指標 |
| グリッド点 | 学習データに含まれる離散座標（0.0, 0.25, 0.5, 0.75, 1.0の組み合わせ） |
| グリッド間 | 学習データに含まれない連続座標（例: 0.1, 0.35など） |
| クリッピング | 座標が[0, 1]範囲外に出ないよう制約するルール（壁に当たって止まる） |
| ギブス現象 | 不連続関数をフーリエ級数や滑らかな関数で近似する際に生じるオーバーシュート |
| ダブルディセント | モデル容量やデータ量を増やすと、性能が一旦悪化してから再び改善する非単調な現象 |
本研究のすべての実験は単一スクリプトで再現可能であり、乱数シード42で固定されている。