将离散概率分布和组合优化问题集成到神经网络中有许多应用,但也带来了一些挑战。本文提出隐式最大似然估计(I-MLE),一种结合离散指数族分布和可微神经组件的模型端到端学习框架。I-MLE应用广泛:它只要求能够计算最可能的状态;并且不依赖平稳的放松。该框架包括几种方法,如基于扰动的隐微分和最近通过黑盒组合求解器进行微分的方法。本文引入一类新的噪声分布,用于通过扰动和映射逼近边界。当在一些最近研究的涉及组合求解器的学习环境中使用时,I-MLE简化为最大似然估计。在几个数据集上的实验表明,I-MLE与现有的依赖于特定问题松弛的方法相比是有竞争力的,并且往往优于现有的方法。

成为VIP会员查看完整内容
23

相关内容

【ICML2022】鲁棒强化学习的策略梯度法
专知会员服务
38+阅读 · 2022年5月21日
【NeurIPS2021】用于视频分割的密集无监督学习
专知会员服务
15+阅读 · 2021年11月14日
专知会员服务
23+阅读 · 2021年6月22日
专知会员服务
54+阅读 · 2021年6月17日
【干货书】凸随机优化,320页pdf
专知
12+阅读 · 2022年9月16日
ICLR2019 图上的对抗攻击
图与推荐
17+阅读 · 2020年3月15日
【论文笔记】基于强化学习的人机对话
专知
20+阅读 · 2019年9月21日
迁移自适应学习最新综述,附21页论文下载
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
Arxiv
11+阅读 · 2021年12月8日
Multi-Domain Multi-Task Rehearsal for Lifelong Learning
Arxiv
12+阅读 · 2020年12月14日
VIP会员
相关VIP内容
【ICML2022】鲁棒强化学习的策略梯度法
专知会员服务
38+阅读 · 2022年5月21日
【NeurIPS2021】用于视频分割的密集无监督学习
专知会员服务
15+阅读 · 2021年11月14日
专知会员服务
23+阅读 · 2021年6月22日
专知会员服务
54+阅读 · 2021年6月17日
相关资讯
【干货书】凸随机优化,320页pdf
专知
12+阅读 · 2022年9月16日
ICLR2019 图上的对抗攻击
图与推荐
17+阅读 · 2020年3月15日
【论文笔记】基于强化学习的人机对话
专知
20+阅读 · 2019年9月21日
迁移自适应学习最新综述,附21页论文下载
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
相关论文
微信扫码咨询专知VIP会员