This paper considers the classical problem of sampling with Monte Carlo methods a target probability distribution obtained by conditioning on a rare event defined by the level set of a real-valued score function that is very expensive to compute. We also consider a context where, with each new evaluation of the true score function, a method that iteratively builds a sequence of reduced scores is available; these reduced scores being moreover certified with pointwise error bounds. This work proposes a fully adaptive algorithm that iteratively: i) builds a sequence of proposal distributions obtained by conditioning on the reduced score above an adaptively well-chosen level, and ii) draws from the latter both for importance sampling of the true target rare events, as well as for proposing relevant (expensive) updates to the reduced score. An essential contribution consists in the adaptive choice of the level in i) and ii). The latter is calculated solely from the reduced score and its error bound, and is interpreted as the first non-achievable level as quantified by a given cost (in a pessimistic scenario) of importance sampling of the associated true target distribution. From a practical point of view, sampling the proposal sequence is performed by extending the framework of the popular Adaptive Multilevel Splitting (AMS) algorithm to the use of score function reduction. Numerical experiments evaluate the proposed importance sampling algorithm in terms of computational complexity versus squared error. In particular, we investigate the performance of the algorithm when simulating rare events related to the solution of a parametric PDE approximated by a reduced basis.


翻译:本文考虑采用蒙特卡洛方法对由罕见事件条件作用得到的目标概率分布进行采样的经典问题,该罕见事件由计算代价极高的实值评分函数的水平集定义。我们同时考虑一种场景:每次对真实评分函数进行新评估时,存在一种迭代构建简化评分序列的方法,并且这些简化评分具有逐点误差界的可验证保证。本文提出一种完全自适应的算法,该算法迭代执行以下步骤:i) 通过对适应选择的水平以上的简化评分进行条件作用,构建一系列建议分布;ii) 从上述分布中进行采样,既用于真实目标罕见事件的重要性采样,也用于提出(昂贵的)简化评分更新。核心贡献在于对步骤i)和ii)中水平的自适应选择。该水平仅通过简化评分及其误差界计算得出,可解释为在(悲观情景下)利用给定成本对相关真实目标分布进行重要性采样时,首个不可达的水平。从实践角度看,建议序列的采样通过将流行的自适应多层分裂(AMS)算法框架扩展到评分函数简化来实现。数值实验从计算复杂度与平方误差的角度评估了所提出的重要性采样算法。特别地,我们研究了该算法在模拟与参数化偏微分方程解相关的罕见事件时的性能,其中该方程的解通过简化基方法近似。

0
下载
关闭预览

相关内容

Linux导论,Introduction to Linux,96页ppt
专知会员服务
82+阅读 · 2020年7月26日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
34+阅读 · 2019年10月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
60+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
32+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
164+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
41+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
统计学习与视觉计算组
15+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
国家自然科学基金
13+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2024年3月2日
Tree Cross Attention
Arxiv
0+阅读 · 2024年3月1日
Arxiv
0+阅读 · 2024年3月1日
Arxiv
13+阅读 · 2021年5月3日
Arxiv
27+阅读 · 2020年6月19日
Efficiently Embedding Dynamic Knowledge Graphs
Arxiv
14+阅读 · 2019年10月15日
Arxiv
14+阅读 · 2018年5月15日
Arxiv
22+阅读 · 2018年2月14日
VIP会员
最新内容
《基于深度强化学习的反无人机技术研究》178页
专知会员服务
1+阅读 · 今天16:06
“史诗怒火”行动与“AI中心战”模式的浮现
专知会员服务
3+阅读 · 今天15:31
【CVPR2026教程】扩散模型的解析理解
专知会员服务
0+阅读 · 今天14:49
马赛克战:俄乌战场透析
专知会员服务
13+阅读 · 今天4:12
《利用人工智能增强军事决策》
专知会员服务
4+阅读 · 今天4:09
《自动机器学习在军事数据耕耘法中的应用》
专知会员服务
6+阅读 · 今天4:02
为何指挥所生存能力要求范式转变
专知会员服务
5+阅读 · 今天3:54
打造“新蛛网”模式与高科技动员
专知会员服务
4+阅读 · 今天3:33
“蛛网”行动一周年:远程无人机战争
专知会员服务
3+阅读 · 今天3:23
【剑桥博士论文】智能体-环境协同优化
专知会员服务
7+阅读 · 6月9日
相关VIP内容
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
统计学习与视觉计算组
15+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
相关论文
Arxiv
0+阅读 · 2024年3月2日
Tree Cross Attention
Arxiv
0+阅读 · 2024年3月1日
Arxiv
0+阅读 · 2024年3月1日
Arxiv
13+阅读 · 2021年5月3日
Arxiv
27+阅读 · 2020年6月19日
Efficiently Embedding Dynamic Knowledge Graphs
Arxiv
14+阅读 · 2019年10月15日
Arxiv
14+阅读 · 2018年5月15日
Arxiv
22+阅读 · 2018年2月14日
相关基金
国家自然科学基金
13+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员