実験結果

3. 結果

3.1 学習済みモデルの場分布

学習完了後のモデルが予測する温度場・速度場・流線・圧力場を以下に示す。

• 温度場: 底面加熱（$\theta = 1$）から上面・側面への放熱パターン（Robin BC）が明瞭に現れている。中央部で高温流体が上昇し、側面で冷却されて下降する典型的な自然対流温度分布。
• 速度場: 中央上昇・側面下降の双子渦構造が形成されている。最大速度は渦の中心付近に位置。
• 流線: 左右対称な2つの対流セルが明瞭に可視化されており、浮力駆動対流が正しく捕捉されている。
• 圧力場: 対流セルの構造に対応した圧力分布。

3.2 学習曲線

• 各Picard反復の各フェーズ開始時に損失が一時的にスパイクし、その後急速に減少する典型的なパターン。
• Picard反復を重ねるごとに到達する損失の下限値が改善し、最終反復ではTotal Loss $\sim 10^{-1}$ に到達。
• BC損失の各成分（Dirichlet底面、Robin側面/上面、no-slip、free-slip）は学習後期で概ね均衡している。

3.3 CKA相転移解析：表現変化速度

HeatNet（温度場ネットワーク）の変化速度:

• 各Picard反復のフェーズ開始時に急峻なスパイクを示し、その後指数的に減衰する。これはフェーズ切り替え時に解凍されたネットワークが急速に適応し、徐々に安定化する過程を反映する。
• 深い層ほど変化速度が大きい: Layer 5-6（黄・赤）のスパイクがLayer 1-2（紫・青）を常に上回る。浅い層は入力座標の基本変換を早期に獲得し固定するのに対し、深い層がPDE制約の学習を担う。
• Picard反復の進行に伴いピークが減少: 初回反復のスパイクが最大で、第4-5反復では大幅に縮小。表現が収束に向かっている明確な証拠。

FluidNet（流体場ネットワーク）の変化速度:

• Phase 1（heat_only）では凍結されているため変化速度は $\sim 10^{-5}$ でフラット。ネットワーク凍結が正しく機能していることの定量的検証。
• Phase 2で解凍された瞬間にHeatNetより1桁以上大きいスパイクが発生。3成分（$u, v, p$）のNavier-Stokes方程式はLaplace方程式より複雑であり、より大幅な表現再編が必要なことを反映。
• 全層にわたってHeatNetより変化速度が高く、FluidNetの学習が本問題の主たる困難であることを示す。

3.4 CKA相転移解析：累積ドリフト

共通の傾向:

• 浅い層（L1-L3）: CKA $\approx 1.0$ を全フェーズで維持。フェーズ開始時の表現からほぼ変化しない。
• 深い層（L5-L6）: 初期のPicard反復で大きなドリフトを示す（CKA 0.4-0.6まで低下）が、後期の反復ではほぼ安定。

FluidNet固有の特徴:

• FluidNetのLayer 5-6は、初回Picard反復のPhase 2（初めてNS方程式を学習する段階）で最大のドリフトを示す。CKAが0.4まで低下するケースも見られ、浮力項 $Ra \cdot Pr \cdot \theta$ との結合を表現するため深い層が大幅に再編成されることを意味する。
• 第3回以降のPicard反復では全層のドリフトが軽微（CKA > 0.9）となり、収束が確認される。

3.5 CKA相転移解析：ヒートマップ

HeatNet: ほぼ全面が黄色（CKA $\approx 1.0$）。Phase 1のLaplace方程式学習後、HeatNetの表現は全Picard反復を通じて本質的に不変。HeatNetが最初に獲得した温度場の表現が、後の微調整でも大きく変わらないことを示す。

FluidNet: 明確なブロック構造が出現。最初の約20チェックポイント（Phase 1 + 初回Phase 2の前半）と、それ以降で表現が大きく異なる（オレンジ色の領域）。チェックポイント40以降は相互に高い類似性を持ち、収束した表現空間に到達していることを示す。

3.6 CKA相転移解析：レイヤー別ヒートマップ

レイヤー別の詳細解析で最も示唆に富む結果が得られた:

• Layer 1-2（両ネットワーク共通）: 全面黄色。最も浅い層は学習全体を通じて安定しており、入力座標の正規化・基本変換という「汎用的」な役割を果たす。
• Layer 3-4: 軽度のブロック構造が現れるが、全体的に安定。中間的な特徴変換を担う。
• HeatNet Layer 5-6: Phase 1（最初の熱学習）と後続フェーズの間にCKAの低下（緑～オレンジ色の領域）が見られるが、Layer 6でもCKA $\sim 0.3$ 程度にとどまる。
• FluidNet Layer 5-6: 最も劇的な相転移。Layer 6では初期表現（チェックポイント0-20）と後期表現（チェックポイント40以降）の間のCKAが紫色（$\sim 0.1$以下）にまで低下。出力直前の層が物理の学習に伴い根本的に異なる表現空間へ遷移したことを意味する。

3.7 損失ランドスケープ

等高線比較（fluid_onlyフェーズの最良モデル）:

• PDE損失: 非常に鋭く狭い最小値（needle-like minimum）。パラメータ空間のわずかな摂動で急激に損失が増加する。PDE制約が定める解の「谷」が極めて狭いことを意味し、オプティマイザが正確に最適点を見つける必要がある。
• BC損失: 対照的に広く滑らかなランドスケープ。境界条件は比較的容易に満たせる。
• Total損失: PDE とBCの合成で、PDE由来の鋭さを保ちつつもBCの滑らかさで若干緩和された形状。やや非対称な谷。

3Dサーフェス:

• Total Lossは谷型の構造を持ち、片側がより急峻。
• PDE Lossは針のように鋭い最小値が3D表面で際立つ。最小値の周辺にflatな領域がほぼ存在しない。

断面図:

• $\alpha$ 方向・$\beta$ 方向の両方で、最小値から $\pm 0.5$ の範囲で損失が3桁以上増加。
• PDE > Total > BC の順に勾配が急峻。
• 両方向でほぼ対称であり、フィルタ正規化された方向空間においてランドスケープの異方性は軽度。

3.8 結果のまとめ

1. PINNの内部表現は明確な階層構造を持ち、浅い層は汎用的な入力変換、深い層がタスク固有の物理学習を担う
2. Picard反復は表現空間の段階的収束を実現しており、反復ごとに変化速度・ドリフトが減少する
3. FluidNetの深い層（特にLayer 6）で劇的な表現の相転移が起こり、NS方程式の学習にはLaplace方程式よりも根本的な表現再編が必要
4. PDE損失面は鋭い針状の最小値を持ち、BC損失よりも最適化が困難。段階的学習の重要性を損失面の幾何学から裏付ける