Operator learning is a data-driven approximation of mappings between infinite-dimensional function spaces, such as the solution operators of partial differential equations. Kernel-based operator learning can offer accurate, theoretically justified approximations that require less training than standard methods. However, they can become computationally prohibitive for large training sets and can be sensitive to noise. We propose a regularized random Fourier feature (RRFF) approach, coupled with a finite element reconstruction map (RRFF-FEM), for learning operators from noisy data. The method uses random features drawn from multivariate Student's $t$ distributions, together with frequency-weighted Tikhonov regularization that suppresses high-frequency noise. We establish high-probability bounds on the extreme singular values of the associated random feature matrix and show that when the number of features $N$ scales like $m \log m$ with the number of training samples $m$, the system is well-conditioned, which yields estimation and generalization guarantees. Detailed numerical experiments on benchmark PDE problems, including advection, Burgers', Darcy flow, Helmholtz, Navier-Stokes, and structural mechanics, demonstrate that RRFF and RRFF-FEM are robust to noise and achieve improved performance with reduced training time compared to the unregularized random feature model, while maintaining competitive accuracy relative to kernel and neural operator tests.


翻译:算子学习是无限维函数空间之间映射(例如偏微分方程解算子)的数据驱动逼近方法。基于核的算子学习能够提供精确的、理论可证的逼近,且比标准方法需要更少的训练。然而,对于大规模训练集,其计算成本可能过高,且对噪声敏感。本文提出一种正则化随机傅里叶特征方法,结合有限元重构映射,用于从含噪数据中学习算子。该方法采用从多元学生$t$分布中抽取的随机特征,并辅以频率加权的Tikhonov正则化来抑制高频噪声。我们建立了相关随机特征矩阵极端奇异值的高概率界,并证明当特征数量$N$与训练样本数$m$满足$N \sim m \log m$的比例关系时,系统是良态的,从而获得估计与泛化保证。在包括平流、Burgers、达西流、Helmholtz、Navier-Stokes及结构力学在内的基准PDE问题上的详细数值实验表明,RRFF与RRFF-FEM对噪声具有鲁棒性,相较于未正则化的随机特征模型,能以更少的训练时间实现性能提升,同时相对于核方法与神经算子测试保持具有竞争力的精度。

0
下载
关闭预览

相关内容

在数学,统计学和计算机科学中,尤其是在机器学习和逆问题中,正则化是添加信息以解决不适定问题或防止过度拟合的过程。 正则化适用于不适定的优化问题中的目标函数。
UnHiPPO:面向不确定性的状态空间模型初始化方法
专知会员服务
11+阅读 · 2025年6月6日
专知会员服务
15+阅读 · 2021年8月29日
【CVPR2021】CausalVAE: 引入因果结构的解耦表示学习
专知会员服务
37+阅读 · 2021年3月28日
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关VIP内容
UnHiPPO:面向不确定性的状态空间模型初始化方法
专知会员服务
11+阅读 · 2025年6月6日
专知会员服务
15+阅读 · 2021年8月29日
【CVPR2021】CausalVAE: 引入因果结构的解耦表示学习
专知会员服务
37+阅读 · 2021年3月28日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员