This paper considers the classical problem of sampling with Monte Carlo methods a target rare event distribution of the form $\eta^\star_{l_{max}} \propto \mathbb{1}_{S^\star> l_{max}} d\pi$, with $\pi$ a reference probability distribution, $S^\star$ a real-valued function that is very expensive to compute and $l_{max} \in \mathbb{R}$ some level of interest. We assume we can iteratively build a sequence of reduced models $\{S^{(k)}\}_k$ of the scores, which are increasingly refined approximations of $S^\star$ as new score values are computed; these reduced models being moreover certified with error bounds. This work proposes a fully adaptive algorithm to iteratively build a sequence of proposal distributions with increasing target levels $l^{(k)}$ of the form $\propto \mathbb{1}_{S^{(k)} > l^{(k)}} d\pi$ and draw from them, the objective being importance sampling of the target rare events, as well as proposing relevant updates to the reduced score. An essential contribution consists in {adapting} the target level to the reduced score: the latter is defined as the first non-achievable level $l^{(k)}$ corresponding to a cost, in a pessimistic scenario, for importance sampling matching an acceptable budget; it is calculated solely from the reduced score function and its error bound. From a practical point of view, sampling the proposal sequence is performed by extending the framework of the popular adaptive multilevel splitting algorithm to the use of reduced score approximations. Numerical experiments evaluate the proposed importance sampling algorithm in terms of computational complexity versus squared error. In particular, we investigate the performance of the algorithm when simulating rare events related to the solution of a parametric PDE, which is approximated by a reduced basis.


翻译:本文研究用蒙特卡洛方法对形如$\eta^\star_{l_{max}} \propto \mathbb{1}_{S^\star> l_{max}} d\pi$的目标稀有事件分布进行采样的经典问题,其中$\pi$为参考概率分布,$S^\star$为计算代价极高的实值函数,$l_{max} \in \mathbb{R}$为感兴趣阈值。我们假设可迭代构建分数函数的简化模型序列$\{S^{(k)}\}_k$,这些模型通过新分数值的计算逐步精化逼近$S^\star$,且此类简化模型具备带误差界的认证。本文提出一种全自适应算法,通过迭代构建形如$\propto \mathbb{1}_{S^{(k)} > l^{(k)}} d\pi$的递增目标水平$l^{(k)}$的提议分布序列并从中采样,其目标在于实现目标稀有事件的重要性采样,同时为简化分数的相关更新提供建议。核心贡献在于将目标水平与简化分数进行自适应匹配:该水平被定义为在悲观场景下,对应重要性采样成本不超过可接受预算时的首个不可达水平$l^{(k)}$,其计算仅依赖于简化分数函数及其误差界。从实践角度而言,提议序列的采样通过将流行的自适应多层次分割算法框架扩展至简化分数近似得以实现。数值实验从计算复杂度与平方误差的权衡角度评估了所提重要性采样算法,特别研究了该算法在模拟参数化偏微分方程解相关稀有事件时的性能表现,其中PDE解由简化基进行逼近。

0
下载
关闭预览

相关内容

Linux导论,Introduction to Linux,96页ppt
专知会员服务
82+阅读 · 2020年7月26日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
34+阅读 · 2019年10月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
60+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
32+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
164+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
41+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
STRCF for Visual Object Tracking
统计学习与视觉计算组
15+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16(1)
KingsGarden
74+阅读 · 2016年11月26日
国家自然科学基金
13+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2024年2月13日
Arxiv
0+阅读 · 2024年2月9日
Modeling Microstrip Antenna
Arxiv
0+阅读 · 2024年2月9日
Arxiv
0+阅读 · 2024年2月9日
Arxiv
12+阅读 · 2023年5月22日
Efficiently Embedding Dynamic Knowledge Graphs
Arxiv
14+阅读 · 2019年10月15日
Arxiv
14+阅读 · 2018年5月15日
Arxiv
22+阅读 · 2018年2月14日
VIP会员
最新内容
《Palantir的科技生态系统》
专知会员服务
8+阅读 · 6月2日
《反无人机系统传感器融合》90页报告
专知会员服务
11+阅读 · 6月2日
运用人工智能与卫星通信驱散“战争迷雾”
专知会员服务
5+阅读 · 6月2日
综述 | OPSD:大语言模型的在线策略自蒸馏
专知会员服务
5+阅读 · 6月1日
帕兰蒂尔Maven:军事人工智能的新纪元
专知会员服务
11+阅读 · 6月1日
相关VIP内容
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
STRCF for Visual Object Tracking
统计学习与视觉计算组
15+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16(1)
KingsGarden
74+阅读 · 2016年11月26日
相关论文
Arxiv
0+阅读 · 2024年2月13日
Arxiv
0+阅读 · 2024年2月9日
Modeling Microstrip Antenna
Arxiv
0+阅读 · 2024年2月9日
Arxiv
0+阅读 · 2024年2月9日
Arxiv
12+阅读 · 2023年5月22日
Efficiently Embedding Dynamic Knowledge Graphs
Arxiv
14+阅读 · 2019年10月15日
Arxiv
14+阅读 · 2018年5月15日
Arxiv
22+阅读 · 2018年2月14日
相关基金
国家自然科学基金
13+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员