4. 考察
4.1 PINNの物理計算パイプライン
FluidNetの勾配感度が示す層分担を整理すると、以下の物理計算パイプラインが自発的に形成されていることが分かる:
入力 (x, y)
↓
L1-L2: 座標 → 空間微分基底 ← 粘性項(Laplacian)の計算
↓
L3-L5: 基底 → 非線形合成 ← 対流項・連続の式・移流の計算
↓
L6: 特徴統合 ← 全項のまとめ
↓
Output: (u, v, p) 出力 ← 圧力の最終決定
この構造は、画像認識CNNにおける「エッジ→テクスチャ→物体パーツ→物体」(Zeiler & Fergus, 2014)に対応する物理版の階層であり、「局所微分→非線形相互作用→大域的保存則」という物理法則の論理構造を反映している。
特に注目すべきは圧力の出力層集中(62%)である。非圧縮性流体力学において、圧力はPoisson方程式 $\nabla^2 p = f(\mathbf{u})$ の解として速度場が定まった後に決定される。PINNがこの「圧力は最後に決まる」という物理的因果関係を、明示的に教えられることなく、学習のみから再現していることは、ネットワークが方程式の構造的知識を獲得した証拠と解釈できる。
4.2 「計算する層」と「符号化する層」の乖離
本研究の最も意外な発見は、粘性項における勾配感度と線形プロービングの乖離である。
| 指標 | L1 | L6 |
|---|---|---|
| 勾配感度(行正規化) | 0.38(最大) | 0.03 |
| 線形プロービング R² | 0.44(最低) | 0.74(最高) |
L1は粘性項の計算において最も重要な層(勾配感度最大)でありながら、L1の活性化からは粘性項を線形的に読み取れない(R²最低)。これは以下のメカニズムで説明できる:
L1は入力座標 $(x, y)$ を、Tanh活性化を通じた非線形基底関数の集合に変換する。この変換は粘性項(Laplacian)の計算に不可欠だが、Laplacian自体はこれらの基底関数の非線形な組み合わせとしてのみ表現されており、線形デコーダでは抽出できない。深い層に進むにつれ、この情報がより「線形的にアクセス可能」な形式に再符号化されるため、R²が増加する。
この知見は、ニューラルネットワークの解釈性研究に対して「線形プロービングのR²が低い ≠ 情報がない」という重要な警告を提供する。
4.3 第1報のCKA相転移の原因特定
第1報で観測されたFluidNet Layer 6のCKA相転移(CKA < 0.1)は、本研究の結果から以下のように原因を特定できる:
- 圧力の出力層集中: 圧力勾配の62%が出力層に集中しており、L6はその直前の特徴統合層。NS方程式の学習に伴い圧力場が構築される過程で、L6の表現が根本的に再編される。
- 対流項のL4-L5集中: 非線形対流項は中間-深い層に集中し、L5-L6はこれらを統合する役割を持つ。
第1報では「浅い層は安定した入力変換を保持し、深い層がPDE制約を学習する」と結論したが、本研究はこれを精緻化した:
浅い層は粘性(Laplacian)計算の確立により早期に安定し、深い層は対流(非線形積)と圧力(Poisson解)の学習に伴い大きく変動する。
4.4 損失ランドスケープの鋭さの物理的起源
第1報で発見されたPDE損失の「針状の最小値」は、本研究の勾配感度の観点から以下のように解釈できる:
- 粘性項のL1感度が高い: L1のパラメータを摂動すると、Laplacian計算の基盤が崩れ、粘性項が大きく変化する。損失面のある方向の鋭さは、L1の粘性計算の精密さに対応する。
- 圧力項のOut感度が高い: 出力層のパラメータを摂動すると圧力場が崩壊する。損失面の別の方向の鋭さは、出力層での圧力決定の繊細さに対応する。
つまり、PDE損失の鋭さは単一の原因ではなく、異なる層で異なるPDE項が「崩壊しやすい」ことの複合効果として理解できる。
4.5 限界と制約
- Ra数の制限: $Ra = 10^4$ での結果であり、高Ra(乱流遷移領域)では粘性項の相対的重要性が低下するため、層分担パターンが質的に変化する可能性がある。
- 線形プロービングの限界: R²は線形デコード可能性のみを測定し、非線形符号化(例: L1の粘性計算)を過小評価する。非線形プローブ(例: 小型MLP)による補完分析が望ましい。
- 擬似損失としてのmean(term²): 個別PDE項の二乗平均は真の学習目標ではないため、勾配感度は「計算依存性」の指標であり「学習時の最適化方向」とは必ずしも一致しない。
- HeatNet-FluidNet間の非対称性: FluidNet(3出力)とHeatNet(1出力)の出力次元差が階層構造の差に影響している可能性があり、出力次元を統制した比較実験が必要。
- 単一実験: 初期値依存性の評価には複数回実行による統計的検証が必要。
4.6 実用的な示唆
- 層ごとの適応的凍結: 粘性計算は早期に確立されるため、学習中盤以降のL1-L2凍結が計算コスト削減に有効。ただし対流・圧力は深い層で学習が続くためL4以降は凍結すべきでない。
- 転移学習の設計: 異なるRa数やジオメトリへの転移では、浅い層(粘性基底)は再利用可能だが、深い層(対流・圧力パターン)は再学習が必要との予測。
- 損失重みの動的調整: 粘性項の損失重みを初期に高くし(浅い層の安定化促進)、後期に対流・圧力の重みを高くする段階的スケジュールが有効と予測される。
- ネットワーク設計: 圧力が出力層に集中する発見は、圧力を独立に扱う3ネットワーク設計(HeatNet + VelocityNet + PressureNet)の合理性を示唆する。