Solving partial differential equations remains a central challenge in scientific machine learning. Neural operators offer a promising route by learning mappings between function spaces and enabling resolution-independent inference, yet they typically require supervised data. Physics-informed neural networks address this limitation through unsupervised training with physical constraints but often suffer from unstable convergence and limited generalization capability. To overcome these issues, we introduce a multi-stage physics-informed training strategy that achieves convergence by progressively enforcing boundary conditions in the loss landscape and subsequently incorporating interior residuals. At each stage the optimizer is re-initialized, acting as a continuation mechanism that restores stability and prevents gradient stagnation. We further propose the Physics-Informed Spline Fourier Neural Operator (PhIS-FNO), combining Fourier layers with Hermite spline kernels for smooth residual evaluation. Across canonical benchmarks, PhIS-FNO attains a level of accuracy comparable to that of supervised learning, using labeled information only along a narrow boundary region, establishing staged, spline-based optimization as a robust paradigm for physics-informed operator learning.


翻译:求解偏微分方程仍然是科学机器学习中的核心挑战。神经算子通过学习函数空间之间的映射并实现分辨率无关的推理,提供了一条有前景的途径,但它们通常需要监督数据。物理信息神经网络通过物理约束进行无监督训练来应对这一局限,但常常面临收敛不稳定和泛化能力有限的问题。为克服这些难题,我们引入了一种多阶段物理信息训练策略,该策略通过在损失函数中逐步施加边界条件并随后纳入内部残差来实现收敛。在每个阶段,优化器被重新初始化,作为一种延拓机制来恢复稳定性并防止梯度停滞。我们进一步提出了物理信息样条傅里叶神经算子,它将傅里叶层与埃尔米特样条核相结合,以实现平滑的残差评估。在多个经典基准测试中,PhIS-FNO达到了与监督学习相当的精度水平,仅需在狭窄的边界区域使用标注信息,从而确立了基于样条的分阶段优化作为物理信息算子学习的稳健范式。

0
下载
关闭预览

相关内容

【阿姆斯特丹博士论文】表示学习中的信息理论
专知会员服务
23+阅读 · 2025年7月18日
专知会员服务
140+阅读 · 2021年11月21日
清华大学《高级机器学习》课程
专知
40+阅读 · 2020年7月21日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
半监督多任务学习:Semisupervised Multitask Learning
我爱读PAMI
18+阅读 · 2018年4月29日
【干货】监督学习与无监督学习简介
专知
14+阅读 · 2018年4月4日
基于信息理论的机器学习
专知
22+阅读 · 2017年11月23日
国家自然科学基金
16+阅读 · 2017年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
16+阅读 · 2017年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员