论文题目:Graph Neural Networks Inspired by Classical Iterative Algorithms

作者:Yongyi Yang,Tang Liu,Yangkun Wang,Jinjing Zhou,Quan Gan,魏哲巍,Zheng Zhang,Zengfeng Huang,David Wipf

论文概述:图神经网络(GNN)作为建模实体间关系的代表性方法,已被成功应用于多个领域。然而现有方法仍存在一些局限性,例如过平滑问题、长距离依赖性问题等。本篇论文基于两种经典迭代算法提出了首个unfolding视角的GNN集成框架TWIRLS,首先通过模仿近似梯度下降设计了一个可扩展的基础GNN架构,能够允许任意的传播步骤以捕捉长距离依赖关系同时有效避免过平滑问题。在此基础上,结合迭代加权最小二乘法的更新规则提出了新的注意力机制系列,无需引入额外参数或设计启发式方法而对边的不确定性表现鲁棒。同时,本篇论文进行了大量实验旨在评估不同情况下算法的性能,实验结果表明,即使与特定任务SOTA模型相比,本篇论文所提算法均取得具有竞争力或更高的节点分类精度。

https://www.zhuanzhi.ai/paper/49b1ba16194db9f330657396a37982dd

成为VIP会员查看完整内容
30

相关内容

图神经网络 (GNN) 是一种连接模型,它通过图的节点之间的消息传递来捕捉图的依赖关系。与标准神经网络不同的是,图神经网络保留了一种状态,可以表示来自其邻域的具有任意深度的信息。近年来,图神经网络(GNN)在社交网络、知识图、推荐系统、问答系统甚至生命科学等各个领域得到了越来越广泛的应用。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
25+阅读 · 2021年6月8日
专知会员服务
29+阅读 · 2021年6月7日
专知会员服务
51+阅读 · 2021年5月19日
专知会员服务
82+阅读 · 2021年5月10日
【WWW2021】用优化框架解释和统一图神经网络
专知会员服务
45+阅读 · 2021年2月1日
【AAAI2021】基于图神经网络的文本语义匹配算法
专知会员服务
50+阅读 · 2021年1月30日
【NeurIPS 2020】通过双向传播的可扩展图神经网络
专知会员服务
31+阅读 · 2020年11月3日
【NeurIPS2020】图神经网络中的池化再思考
专知会员服务
52+阅读 · 2020年10月25日
ICML2020 图神经网络的预训练
图与推荐
12+阅读 · 2020年4月4日
当深度强化学习遇见图神经网络
专知
227+阅读 · 2019年10月21日
Arxiv
0+阅读 · 2021年7月7日
Arxiv
9+阅读 · 2020年10月29日
Pointer Graph Networks
Arxiv
7+阅读 · 2020年6月11日
A General and Adaptive Robust Loss Function
Arxiv
8+阅读 · 2018年11月5日
Arxiv
7+阅读 · 2018年6月8日
Arxiv
4+阅读 · 2015年8月25日
VIP会员
最新内容
ICML 2026 | SARDI:扩散语言模型的自增强检索
专知会员服务
1+阅读 · 6月6日
《国防领域安全采用大语言模型的战略蓝图》
专知会员服务
4+阅读 · 6月6日
ICML 2026 | 演化选择的因果建模
专知会员服务
5+阅读 · 6月5日
综述|学习式3D表征最新进展与趋势
专知会员服务
5+阅读 · 6月5日
人工智能重塑威慑:算法优势的兴起
专知会员服务
7+阅读 · 6月5日
AgentOps综述:智能体系统运维框架
专知会员服务
16+阅读 · 6月4日
《美陆军最新条令:兵力防护》
专知会员服务
13+阅读 · 6月4日
相关VIP内容
专知会员服务
25+阅读 · 2021年6月8日
专知会员服务
29+阅读 · 2021年6月7日
专知会员服务
51+阅读 · 2021年5月19日
专知会员服务
82+阅读 · 2021年5月10日
【WWW2021】用优化框架解释和统一图神经网络
专知会员服务
45+阅读 · 2021年2月1日
【AAAI2021】基于图神经网络的文本语义匹配算法
专知会员服务
50+阅读 · 2021年1月30日
【NeurIPS 2020】通过双向传播的可扩展图神经网络
专知会员服务
31+阅读 · 2020年11月3日
【NeurIPS2020】图神经网络中的池化再思考
专知会员服务
52+阅读 · 2020年10月25日
相关论文
微信扫码咨询专知VIP会员