能够可靠地执行算法计算的神经网络可能对机器学习和理论计算机科学具有革命性的潜力。一方面,它们可以实现在深度学习模型中很少看到的那种外推泛化。另一方面,它们可以在以前认为不可访问的输入上运行经典算法。这两个承诺都由神经算法推理蓝图指导,该蓝图最近在Petar Velickovic和Charles Blundell的立场论文中提出。理论上,这是一个非常优雅的对自然输入进行推理的流程,它仔细地利用了深度神经网络作为特征提取器的久经考验的能力。实际上,我们到底走了多远?在本教程中,我们旨在提供回答神经算法推理的三个关键问题所需的基础:如何开发执行算法计算的神经网络,如何在现实问题中部署这种神经网络,以及如何深化其与经典算法的理论联系。我们的教程将从头开始,以一种具有基本计算机科学背景的任何人都可以访问的方式。还将提供动手编码片段,展示与会者如何在相关算法推理数据集(如CLRS)上直接发展他们在图表示学习中的想法,然后在下游智能体中部署它们(如强化学习)。

Part I: Developing NAR (Petar Veličković)

Part II: Deploying NAR (Andreea Deac)

Part III: Deepening NAR (Andrew Dudzik)

参考文献

Harris, TE. and Ross, FS. Fundamentals of a Method for Evaluating Rail Net Capacities. Project RAND Research Memorandum * Vlastelica, M., Paulus, A., Musil, V., Martius, G. and Rolínek, M. Differentiation of Blackbox Combinatorial Solvers. ICLR’20 * Hamrick, JB., Allen, KR., Bapst, V., Zhu, T., McKee, KR., Tenenbaum, JB. and Battaglia, PW. Relational inductive bias for physical construction in humans and machines. CogSci’18

成为VIP会员查看完整内容
31

相关内容

【UAI2021教程】贝叶斯最优学习,65页ppt
专知会员服务
65+阅读 · 2021年8月7日
专知会员服务
41+阅读 · 2020年10月13日
【DeepMind】强化学习教程,83页ppt
专知会员服务
158+阅读 · 2020年8月7日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
167+阅读 · 2020年3月18日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
实操教程|用Pytorch训练神经网络
极市平台
0+阅读 · 2022年4月22日
ICLR2022图神经网络论文集锦
机器学习与推荐算法
13+阅读 · 2022年2月10日
KDD2021 | 图表示学习系统教程 (附Slides)
机器学习与推荐算法
3+阅读 · 2021年9月7日
AI可解释性文献列表
专知
43+阅读 · 2019年10月7日
下载 | 512页教程《神经网络与深度学习》,2018最新著作
机器学习算法与Python学习
50+阅读 · 2019年1月6日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
9+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Learning from Few Samples: A Survey
Arxiv
77+阅读 · 2020年7月30日
Arxiv
26+阅读 · 2018年8月19日
VIP会员
最新内容
人工智能赋能无人机:俄乌战争(万字长文)
专知会员服务
4+阅读 · 今天6:56
国外海军作战管理系统与作战训练系统
专知会员服务
2+阅读 · 今天4:16
美军条令《海军陆战队规划流程(2026版)》
专知会员服务
9+阅读 · 今天3:36
《压缩式分布式交互仿真标准》120页
专知会员服务
4+阅读 · 今天3:21
《电子战数据交换模型研究报告》
专知会员服务
6+阅读 · 今天3:13
《基于Transformer的异常舰船导航识别与跟踪》80页
《低数据领域军事目标检测模型研究》
专知会员服务
6+阅读 · 今天2:37
【CMU博士论文】物理世界的视觉感知与深度理解
专知会员服务
10+阅读 · 4月22日
伊朗战争停火期间美军关键弹药状况分析
专知会员服务
8+阅读 · 4月22日
电子战革命:塑造战场的十年突破(2015–2025)
相关VIP内容
【UAI2021教程】贝叶斯最优学习,65页ppt
专知会员服务
65+阅读 · 2021年8月7日
专知会员服务
41+阅读 · 2020年10月13日
【DeepMind】强化学习教程,83页ppt
专知会员服务
158+阅读 · 2020年8月7日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
167+阅读 · 2020年3月18日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
相关资讯
实操教程|用Pytorch训练神经网络
极市平台
0+阅读 · 2022年4月22日
ICLR2022图神经网络论文集锦
机器学习与推荐算法
13+阅读 · 2022年2月10日
KDD2021 | 图表示学习系统教程 (附Slides)
机器学习与推荐算法
3+阅读 · 2021年9月7日
AI可解释性文献列表
专知
43+阅读 · 2019年10月7日
下载 | 512页教程《神经网络与深度学习》,2018最新著作
机器学习算法与Python学习
50+阅读 · 2019年1月6日
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
9+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员