1. 背景と問題意識

1.1 研究の背景

Physics-Informed Neural Networks(PINNs)は偏微分方程式の解法として注目を集めているが、その学習過程の内部メカニズムは十分に理解されていない。特に、多物理場結合問題(例:自然対流のようにNavier-Stokes方程式とエネルギー方程式が連成する系)において、ネットワークが「どの物理をどの順序で学ぶのか」「ネットワーク内のどの層が何を担うのか」は未解明の課題である。

従来のPINN研究は主に最終的な精度や収束性に焦点を当ててきたが、中間的な学習過程を詳細に分析した研究は限られている。特に、Picard反復のような段階的学習手法を用いた場合の内部表現の遷移過程は、ほとんど調査されていない。

1.2 研究目的

本研究の目的は以下の点に集約される:

  1. 表現変化の定量化: CKAを用いて、Picard反復の各フェーズにおけるネットワーク内部表現の変化速度・累積ドリフトを層ごとに定量化する
  2. 学習の階層構造の解明: 浅い層と深い層で学習ダイナミクスがどのように異なるかを明らかにし、PINNにおける「特徴学習の階層性」を検証する
  3. 損失ランドスケープの特性把握: 学習済みモデル周辺の損失面の形状を可視化し、PDE損失とBC損失の幾何学的特性の違いを明らかにする

1.3 関連研究との位置づけ

  • CKA (Kornblith et al., 2019): 深層学習における表現類似度の標準的指標。本研究ではこれを時間軸(学習チェックポイント)に沿って適用し、学習ダイナミクスの解析に転用した。
  • 損失ランドスケープ可視化 (Li et al., 2018): フィルタ正規化によるパラメータ空間の2D投影手法。画像分類モデルで広く用いられているが、PINNへの適用例は少ない。
  • Picard反復 (Krishnapriyan et al., 2021 等): 多物理場結合系の段階的学習手法。各方程式を交互に解くことで学習を安定化させるが、その内部メカニズムの分析はこれまで行われていない。