結果

3. 結果

3.1 A. Attention パターン

表1: 層別の平均 Attention Weight

層1 では全4ヘッドで Action→State の attention が強い（0.69~0.85）。これは、行動トークンが状態トークンの情報を積極的に読み取り、行動と状態の統合表現を構築していることを示唆する。

層2 ではヘッドごとの役割分化が顕著になる。Head 1 は State→State が 0.82 と高く自己参照的であり、Head 2 は State→Action が 0.81 と高く行動情報を状態トークンに取り込む役割を担っている。

壁際と内側の Attention 差分は全体的に小さく（±0.03程度）、Attention レベルでは壁の特別処理は顕著ではない。壁の処理はAttention パターンの変化ではなく、中間表現の値（ニューロン活性）レベルで行われていることが示唆される。

3.2 B. 中間表現の幾何学

表2: PCA による空間構造の定量評価

全層で距離比が 2.86~2.92 と一貫して高く、グリッドの空間的トポロジーが中間表現に保存されていることが確認された。

注目すべき点として、層が深くなるにつれ分散が複数の主成分に分散し（PC1: 53.7% → 37.6%）、より多次元的で豊かな表現になっていることがわかる。これは、単純な座標情報に加えて、行動依存の遷移情報が表現に符号化されていることを反映している。

3.3 C. Linear Probing

表3: Linear Probing の定量結果

最も重要な知見は次状態予測の層間変化である：

• 入力段階: R2=0.81。状態と行動の情報はそれぞれ保持されているが、遷移関数の計算はまだ行われていない
• 層1: R2≈0.998。1層の処理で遷移ルールの大部分が計算される
• 層2: R2≈0.999。微調整が加わりほぼ完全な遷移予測が可能に

入力段階での R2=0.81 は、行動を無視して現在位置だけから次状態を線形予測した場合の理論的上限に近い値であり、行動情報の統合が Transformer 層の計算によって初めて達成されることを示している。

3.4 D. ニューロンレベルの分析

表4: 各壁に最も特化したニューロン

4つの壁それぞれに対して異なるニューロンが特化しており、壁の概念が分散的に表現されている。

表5: 方向特化ニューロン Top 5

ニューロン#45 は選択性 2.51 と最も高く、下方向の行動に強く応答する。ニューロン#7 は左方向で最も活性が低下し、相対的に右方向に特化している。4方向それぞれに対応するニューロンが存在する。

表6: ゴール距離ニューロン Top 5

ニューロン#35 はマンハッタン距離との相関が -0.97 と極めて高く、ゴールに近いほど強く活性化する「ゴール近接ニューロン」として機能している。

3.5 E. 因果的介入

表7: 次状態予測への因果的影響 Top 5

ニューロン#37 が次状態予測と報酬予測の両方で最も重要であり、上壁に特化したニューロンであることから、壁の処理が遷移予測の要であることがわかる。

壁反射に対する因果分析（壁反射ケース20件）では、ニューロン#38（影響度 0.000545）が最も重要であった。ニューロン#38を除去した場合の壁反射予測の詳細：

除去による影響は存在するが比較的小さく、壁反射の処理が複数のニューロンに分散的に表現されていることを示唆する。

Activation Patching の結果:

state token のシャッフルは action token のシャッフルの 約22倍 の影響を与えており、層1→層2の情報伝達において状態情報が支配的な役割を果たしていることが明確に示された。

表8: 累積除去実験

上位1ニューロン（#37）の除去だけで MSE が 56倍に悪化し、半数（32個）を除去すると 686倍に達する。情報は全ニューロンに分散しているが、少数の重要ニューロンに集中する傾向がある。

3.6 結果のまとめ

1. グリッドの空間構造がモデル内部に再現されている（PCA距離比 ~2.9、全層で一貫）
2. 遷移ルールは Transformer 層で段階的に計算される（次状態 R2: 0.81 → 0.998 → 0.999）
3. 壁・方向・ゴール距離に特化したニューロンが存在する（各壁に異なるニューロンが対応）
4. 機能特化ニューロンは因果的に予測に寄与している（#37除去で MSE 56倍悪化）
5. 状態情報は行動情報の22倍の重要度で層間伝達される（Activation Patching）