Graph neural networks (GNNs) are increasingly often employed in high-stakes applications, such as fraud detection or healthcare, but are susceptible to adversarial attacks. A number of techniques have been proposed to provide adversarial robustness guarantees, but support for commonly used aggregation functions in message-passing GNNs is lacking. In this paper, we develop an exact (sound and complete) verification method for GNNs to compute guarantees against attribute and structural perturbations that involve edge addition or deletion, subject to budget constraints. Our method employs constraint solving with bound tightening, and iteratively solves a sequence of relaxed constraint satisfaction problems while relying on incremental solving capabilities of solvers to improve efficiency. We implement GNNev, a versatile exact verifier for message-passing neural networks, which supports three aggregation functions -- sum, max and mean -- with the latter two considered here for the first time. Extensive experimental evaluation of GNNev on real-world fraud datasets (Amazon and Yelp) and biochemical datasets (MUTAG and ENZYMES) demonstrates its usability and effectiveness, as well as superior performance on node classification and competitiveness on graph classification compared to existing exact verification tools on sum-aggregated GNNs.


翻译:图神经网络近年来在高风险场景(如欺诈检测、医疗健康)中得到广泛应用,但容易遭受对抗攻击。当前已有多种技术被提出用于提供对抗鲁棒性保证,然而这些技术缺乏对消息传递型图神经网络中常用聚合函数的支持。本文提出一种针对图神经网络的精确(完备且可判定)验证方法,用于计算在预算约束下针对属性扰动和结构扰动(涵盖边增删)的保证。该方法采用带边界收紧的约束求解技术,通过迭代求解一系列松弛约束满足问题,并借助求解器的增量求解能力提升效率。我们实现了GNNev——一个支持三种聚合函数(求和、最大值、均值)的通用精确验证工具,其中后两种聚合函数首次被纳入验证范畴。基于真实欺诈数据集(Amazon、Yelp)与生物化学数据集(MUTAG、ENZYMES)的大量实验表明,该工具具备实用性和有效性,且在节点分类任务上性能优越,在图分类任务上与现有针对求和聚合图神经网络的精确验证工具具有竞争力。

0
下载
关闭预览

相关内容

【牛津大学博士论文】图神经网络鲁棒机器学习,173页pdf
《图神经网络不确定性》最新综述
专知会员服务
28+阅读 · 2024年3月13日
图神经网络综述
专知会员服务
207+阅读 · 2022年1月9日
图神经网络综述 (中文版),14页pdf
专知会员服务
333+阅读 · 2020年11月24日
最新《图神经网络模型与应用》综述论文
专知会员服务
297+阅读 · 2020年8月2日
图神经网络表达能力的研究综述,41页pdf
专知会员服务
173+阅读 · 2020年3月10日
图神经网络最近这么火,不妨看看我们精选的这七篇
人工智能前沿讲习班
37+阅读 · 2018年12月10日
专栏 | 浅析图卷积神经网络
机器之心
28+阅读 · 2018年7月4日
国家自然科学基金
2+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Arxiv
10+阅读 · 2024年3月11日
VIP会员
最新内容
《无人机脆弱性利用:网络空间力量的新域》
专知会员服务
2+阅读 · 今天4:08
美空军如何将人工智能从战场部署至后方机关
专知会员服务
11+阅读 · 7月31日
《史诗怒火行动:多域前瞻评估》49页报告
专知会员服务
7+阅读 · 7月31日
《英国防部:未来空战系统数字化战略》33页
专知会员服务
5+阅读 · 7月31日
《面向自主飞行网络的智能体人工智能架构》
专知会员服务
7+阅读 · 7月31日
“史诗怒火”行动:现代多域作战的重要节点
专知会员服务
8+阅读 · 7月30日
《下一代无线网络中的多无人机通信资源管理》
相关VIP内容
【牛津大学博士论文】图神经网络鲁棒机器学习,173页pdf
《图神经网络不确定性》最新综述
专知会员服务
28+阅读 · 2024年3月13日
图神经网络综述
专知会员服务
207+阅读 · 2022年1月9日
图神经网络综述 (中文版),14页pdf
专知会员服务
333+阅读 · 2020年11月24日
最新《图神经网络模型与应用》综述论文
专知会员服务
297+阅读 · 2020年8月2日
图神经网络表达能力的研究综述,41页pdf
专知会员服务
173+阅读 · 2020年3月10日
相关基金
国家自然科学基金
2+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员