We introduce the Trajectory-based Quantization Sensitivity Score (TQS), a metric that reframes post-training quantization (PTQ) through the lens of dynamical-systems stability. By modeling the network's rollout as a discrete-time dynamical system, TQS characterizes how quantization-induced errors propagate and amplify over the rollout horizon. Unlike conventional PTQ methods, where sensitivity analysis is often coupled to the quantization procedure, TQS enables a priori sensitivity estimation decoupled from quantizer selection and bit-width assignment. This separation allows for quantization budget planning even for black-box or compiled networks with fused operators. Building on this, we present TQS-PTQ, a flexible mixed-precision framework that requires no calibration data or costly second-order approximations. Our experiments show that a dynamical-systems perspective provides a robust, high-performing pathway for low-precision deployment in resource-constrained settings.


翻译:我们提出基于轨迹的量化敏感度评分(TQS),这是一种通过动态系统稳定性视角重构训练后量化(PTQ)的度量指标。通过将网络的时序展开建模为离散时间动态系统,TQS可刻画量化误差在展开过程中如何传播与放大。与传统的PTQ方法不同(其敏感度分析通常与量化过程耦合),TQS实现了与量化器选择及位宽分配解耦的先验敏感度估计。这种分离性使得即使对于包含融合算子的黑盒网络或编译网络,也能进行量化预算规划。在此基础上,我们提出TQS-PTQ——一种无需校准数据或昂贵二阶近似的灵活混合精度框架。实验表明,动态系统视角为资源受限场景下的低精度部署提供了稳健且高性能的路径。

0
下载
关闭预览

相关内容

自适应系统,在AI中,多指富有变化的系统,能随着环境的改变而进行自适应改变,一般这样的系统多采取自适应机器学习方法。
决策智能中的时间序列预测大模型
专知会员服务
34+阅读 · 2025年5月8日
时间序列大模型综述
专知会员服务
47+阅读 · 2025年4月8日
《深度学习在时间序列预测中的应用:综述》
专知会员服务
30+阅读 · 2025年3月14日
《遥感时序视觉语言模型》全面综述
专知会员服务
30+阅读 · 2024年12月4日
「深度时间序列模型」综述
专知会员服务
44+阅读 · 2024年7月19日
基于深度学习的时间序列分类研究综述
专知会员服务
84+阅读 · 2024年1月8日
R语言时间序列分析
R语言中文社区
12+阅读 · 2018年11月19日
利用动态深度学习预测金融时间序列基于Python
量化投资与机器学习
18+阅读 · 2018年10月30日
基于 Keras 用 LSTM 网络做时间序列预测
R语言中文社区
21+阅读 · 2018年8月6日
基于 Keras 用深度学习预测时间序列
R语言中文社区
23+阅读 · 2018年7月27日
时间序列深度学习:状态 LSTM 模型预测太阳黑子(上)
R语言中文社区
19+阅读 · 2018年6月15日
超全总结:神经网络加速之量化模型 | 附带代码
回归预测&时间序列预测
GBASE数据工程部数据团队
44+阅读 · 2017年5月17日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月10日
VIP会员
最新内容
反制无人机:乌克兰提供的五点启示
专知会员服务
4+阅读 · 9月23日
《各指挥层级均亟需红队能力》报告
专知会员服务
5+阅读 · 9月23日
《航电任务系统框架(FAMOS)》50页报告
专知会员服务
4+阅读 · 9月22日
《对抗行动中的人工智能与自主性》智库报告
专知会员服务
7+阅读 · 9月22日
《从数据到胜利:战争中的分析优势之争》
专知会员服务
9+阅读 · 9月22日
战争不仅需要机器人:人类仍不可或缺
专知会员服务
5+阅读 · 9月21日
《描绘美国防部创新基础设施的未来蓝图》100页
专知会员服务
10+阅读 · 9月21日
相关VIP内容
决策智能中的时间序列预测大模型
专知会员服务
34+阅读 · 2025年5月8日
时间序列大模型综述
专知会员服务
47+阅读 · 2025年4月8日
《深度学习在时间序列预测中的应用:综述》
专知会员服务
30+阅读 · 2025年3月14日
《遥感时序视觉语言模型》全面综述
专知会员服务
30+阅读 · 2024年12月4日
「深度时间序列模型」综述
专知会员服务
44+阅读 · 2024年7月19日
基于深度学习的时间序列分类研究综述
专知会员服务
84+阅读 · 2024年1月8日
相关资讯
R语言时间序列分析
R语言中文社区
12+阅读 · 2018年11月19日
利用动态深度学习预测金融时间序列基于Python
量化投资与机器学习
18+阅读 · 2018年10月30日
基于 Keras 用 LSTM 网络做时间序列预测
R语言中文社区
21+阅读 · 2018年8月6日
基于 Keras 用深度学习预测时间序列
R语言中文社区
23+阅读 · 2018年7月27日
时间序列深度学习:状态 LSTM 模型预测太阳黑子(上)
R语言中文社区
19+阅读 · 2018年6月15日
超全总结:神经网络加速之量化模型 | 附带代码
回归预测&时间序列预测
GBASE数据工程部数据团队
44+阅读 · 2017年5月17日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员