Computational Physics
Series
PINNにおけるPDE項別の層別計算分担の解明 — 2D鍋対流問題 第2報
Part 5
結論・付録
PINN
Gradient Sensitivity
Linear Probing
PDE Terms
Natural Convection
Deep Learning
5. 結論
5.1 知見の要約
- PINNは「微分→非線形積→圧力決定」の物理計算パイプラインを自発的に構築する: FluidNetにおいて、粘性項（Laplacian）は浅い層（L1: 38%）、対流項（非線形積）は中間層（L4: 23-30%）、圧力勾配は出力層（Out: 62%）が支配的に計算する。この分担は物理法則の論理構造（局所微分→非線形相互作用→大域保存則）を反映している。
- 「計算する層」と「情報を符号化する層」は一致しない: 粘性項はL1で計算されるが（勾配感度最大）、L1から線形デコードすることは困難である（R² = 0.26-0.44）。浅い層は非線形な暗黙的計算を行っており、深い層で初めて「線形的にアクセス可能な」形式に再符号化される。
- 結合学習はクロスネットワーク情報転写を引き起こす: FluidNetは温度（buoyancy）をR² >= 0.95で全層に符号化し、HeatNetは速度関連項をR² = 0.5-0.9で部分的に符号化する。分離設計にもかかわらず、結合学習が物理量の暗黙的共有を実現している。
- 第1報のCKA相転移は対流項と圧力項の学習が主因: Layer 6の劇的な表現変化は、L4-L5での対流計算と出力層での圧力決定の確立過程に伴うものであり、粘性計算の安定性（L1-L2）が浅い層のCKA安定性の直接的原因である。
- PDE項別の層分担は学習過程で自発的に形成される: 初期状態では一様な勾配分布が、Picard反復を通じて鮮明な分化構造へと進化する。分化はPicard反復の前半で大部分が完了する。
5.2 今後の課題
- 非線形プロービング: L1の粘性計算のメカニズムを解明するため、小型MLPによる非線形プローブを実施し、R²の改善幅から「非線形性の深さ」を定量化する。
- Ra数スケーリング: $Ra = 10^3 \sim 10^5$ で同一分析を行い、粘性-対流-圧力の層分担がRa数にどう依存するかを調べる。高Raで対流支配になるに従い、粘性のL1集中が弱まるか、対流のピーク層がさらに深くなるかが問われる。
- 圧力分離ネットワーク: 圧力の出力層集中が示唆する3ネットワーク設計（u,vとpを分離）を実装し、学習効率と精度への影響を検証する。
- 空間領域別の解析: 本研究はドメイン全体の平均的な層分担を分析したが、壁面近傍（境界層）と内部（バルク流）で層分担が異なるかを空間分割分析で調べる。
- ニューロンレベルの解析: 層レベルの分析を個々のニューロンに拡張し、「粘性専門ニューロン」「対流専門ニューロン」の存在を検証する。
付録
A. 実行環境
- 言語: Python 3.x
- 主要ライブラリ: PyTorch (CUDA), NumPy, Matplotlib
B. 勾配感度の生データ（FluidNet）
| PDE項 |
L1 |
L2 |
L3 |
L4 |
L5 |
L6 |
Out |
| Convection (x) |
2.6e-2 |
1.6e-2 |
2.4e-2 |
3.8e-2 |
3.4e-2 |
1.5e-2 |
1.3e-2 |
| Pressure (x) |
1.1e-8 |
6.6e-9 |
6.1e-9 |
4.8e-9 |
3.6e-9 |
4.4e-9 |
5.9e-8 |
| Viscous (x) |
1.24 |
0.70 |
0.60 |
0.40 |
0.24 |
0.09 |
0.03 |
| Convection (y) |
2.0e-2 |
1.3e-2 |
2.4e-2 |
3.4e-2 |
2.9e-2 |
1.5e-2 |
1.3e-2 |
| Pressure (y) |
4.5e-9 |
2.9e-9 |
3.0e-9 |
4.7e-9 |
4.5e-9 |
4.9e-9 |
3.9e-8 |
| Viscous (y) |
0.25 |
0.14 |
0.16 |
0.15 |
0.09 |
0.04 |
0.02 |
| Continuity |
2.98 |
2.63 |
5.19 |
8.47 |
7.02 |
1.94 |
0.36 |
| Advection (T) |
368 |
285 |
484 |
653 |
536 |
112 |
16 |
C. 用語集
| 用語 |
説明 |
| 勾配感度（Gradient Sensitivity） |
PDE項の二乗平均を擬似損失として、各層パラメータに対する勾配L2ノルムを計算した値。大きいほどその層がその項の計算に深く関与する |
| 線形プロービング（Linear Probing） |
隠れ層の活性化から目的量を線形回帰で予測し、R²で情報の符号化度を測定する解釈性手法 |
| 行正規化（Row Normalization） |
各PDE項について全層の勾配ノルムの合計で割り、層間の相対分布を比較可能にする正規化 |
| CKA |
Centered Kernel Alignment。ニューラルネットワーク中間層の表現類似度指標。第1報で使用 |
| Picard反復 |
連成方程式系を交互に解く反復解法。本研究では熱→流体→結合を5サイクル実行 |
| Ra (Rayleigh数) |
浮力と粘性・熱拡散の比を表す無次元数。$Ra = 10^4$で計算 |
| Pr (Prandtl数) |
運動量拡散と熱拡散の比。水では $Pr = 3.67$ |
| Boussinesq近似 |
密度変化を浮力項のみで考慮する近似 |
本解析結果は再現可能であり、チェックポイントデータおよび解析スクリプトから再生成できる。第1報のCKA解析と同一のモデル・チェックポイントを使用している。