We investigate the computational complexity of neural network verification in quantised settings. We distinguish three classes of Feedforward Neural Networks (FNNs): rational FNNs with exact rational weights, quantised FNNs whose weights come from a finite-width arithmetic, and dynamically quantised FNNs in which rational networks are evaluated with respect to a given finite-width arithmetic. We consider two types of specifications used in the literature. Linear programming (LP) specifications are conjunctions of linear constraints, while bit-vector (BV) specifications allow reasoning at the bit level and can express non-linear constraints. Our results give a complexity landscape of these verification problems. For quantised FNNs with fixed arithmetic precision, we show that verification under both LP and BV specifications remains NP-complete, matching the complexity of the rational case. For dynamically quantised FNNs with BV specifications, we establish upper bounds, complementing a previously known PSPACE-hardness result.


翻译:我们研究了量化设置下神经网络验证的计算复杂性。我们区分了三类前馈神经网络(FNN):具有精确有理权重的有理FNN、权重来自有限宽算术系统的量化FNN,以及基于给定有限宽算术系统对有理网络进行评估的动态量化FNN。我们考虑了文献中使用的两类规范。线性规划(LP)规范是线性约束的合取,而位向量(BV)规范允许在位级推理,并可表达非线性约束。我们的研究结果描绘了这些验证问题的复杂性全貌。对于具有固定算术精度的量化FNN,我们证明在LP和BV规范下的验证仍然属于NP完全问题,与有理情况下的复杂性相匹配。对于具有BV规范的动态量化FNN,我们建立了上界,补充了先前已知的PSPACE-硬度结果。

0
下载
关闭预览

相关内容

Networking:IFIP International Conferences on Networking。 Explanation:国际网络会议。 Publisher:IFIP。 SIT: http://dblp.uni-trier.de/db/conf/networking/index.html
深度学习中泛化的量化、理解与改进
专知会员服务
17+阅读 · 2025年9月13日
《图神经网络不确定性》最新综述
专知会员服务
28+阅读 · 2024年3月13日
专知会员服务
92+阅读 · 2021年7月9日
专知会员服务
29+阅读 · 2020年8月8日
图神经网络火了?谈下它的普适性与局限性
机器之心
22+阅读 · 2019年7月29日
神经网络中的权重初始化一览:从基础到Kaiming
大数据文摘
12+阅读 · 2019年4月18日
误差反向传播——CNN
统计学习与视觉计算组
31+阅读 · 2018年7月12日
超全总结:神经网络加速之量化模型 | 附带代码
深度学习循环神经网络详解
七月在线实验室
16+阅读 · 2018年5月28日
前沿 | 简述脉冲神经网络SNN:下一代神经网络
机器之心
39+阅读 · 2018年1月13日
最全的DNN概述论文:详解前馈、卷积和循环神经网络技术
【深度学习基础】4. Recurrent Neural Networks
微信AI
16+阅读 · 2017年7月19日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
美国从乌克兰无人机战争中学习经验
专知会员服务
5+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
2+阅读 · 6月21日
学习数据的几何:形状空间分析数学综述
专知会员服务
8+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
10+阅读 · 6月17日
相关VIP内容
深度学习中泛化的量化、理解与改进
专知会员服务
17+阅读 · 2025年9月13日
《图神经网络不确定性》最新综述
专知会员服务
28+阅读 · 2024年3月13日
专知会员服务
92+阅读 · 2021年7月9日
专知会员服务
29+阅读 · 2020年8月8日
相关资讯
图神经网络火了?谈下它的普适性与局限性
机器之心
22+阅读 · 2019年7月29日
神经网络中的权重初始化一览:从基础到Kaiming
大数据文摘
12+阅读 · 2019年4月18日
误差反向传播——CNN
统计学习与视觉计算组
31+阅读 · 2018年7月12日
超全总结:神经网络加速之量化模型 | 附带代码
深度学习循环神经网络详解
七月在线实验室
16+阅读 · 2018年5月28日
前沿 | 简述脉冲神经网络SNN:下一代神经网络
机器之心
39+阅读 · 2018年1月13日
最全的DNN概述论文:详解前馈、卷积和循环神经网络技术
【深度学习基础】4. Recurrent Neural Networks
微信AI
16+阅读 · 2017年7月19日
相关基金
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员