Hyperdimensional computing (HDC) is a promising approach for energy-efficient edge machine learning (ML), where low latency, low power, and tight memory budgets are essential. However, traditional HDC relies on symbolic binding and pseudo-random high-dimensional vectors, which require large dimensionality and heuristic updates to reach competitive accuracy, limiting deployment on edge hardware. We introduce XL-HD, a deterministic, projection-based, fully learnable HDC framework tailored for in-memory acceleration within edge computing systems. The method uses a fixed Sobol sequence to project binary inputs, extending learning beyond conventional HDC. During training, class prototypes are optimized in real-valued space and later binarized, enabling an entirely binary dot-product inference pipeline ideal for IMC hardware such as ReRAM crossbars. XL-HD achieves competitive accuracy on MNIST, UCIHAR, and ISOLET while maintaining a compact IMC-based inference engine with $0.395 \ \text{mm}^2$ area and only $0.40 \ μ\text{J}$ per single-cycle inference.


翻译:超维计算是一种有前景的能效边缘机器学习方法,适用于对低延迟、低功耗和紧凑内存预算要求严苛的场景。然而,传统超维计算依赖符号绑定和伪随机高维向量,需采用高维度空间和启发式更新才能达到竞争性精度,这限制了其在边缘硬件上的部署。我们提出XL-HD——一种面向边缘计算系统中内存加速的确定性、基于投影的完全可学习超维计算框架。该方法采用固定的Sobol序列投影二元输入,将学习能力扩展至传统超维计算之外。训练过程中,类原型在实值空间优化后经二值化处理,实现完全面向二元点积推理的流水线,适用于如ReRAM交叉阵列等内存计算硬件。在保持紧凑的内存计算推理引擎(面积$0.395 \ \text{mm}^2$,单周期推理仅消耗$0.40 \ μ\text{J}$)的前提下,XL-HD在MNIST、UCIHAR和ISOLET数据集上均取得了具有竞争力的精度。

0
下载
关闭预览

相关内容

迈向深度基础模型:基于视觉的深度估计最新趋势
专知会员服务
23+阅读 · 2025年7月16日
深度学习视频超分辨率综述
专知会员服务
14+阅读 · 2025年6月5日
超维计算概念、应用及研究进展
专知会员服务
32+阅读 · 2023年7月30日
【2023新书】超图计算,Hypergraph Computation,251页pdf
专知会员服务
80+阅读 · 2023年5月29日
【综述】自动驾驶领域中的强化学习,附18页论文下载
专知会员服务
176+阅读 · 2020年2月8日
哈工大讯飞联合实验室发布中文XLNet预训练模型
哈工大SCIR
13+阅读 · 2019年8月20日
基于深度学习的图像超分辨率最新进展与趋势【附PDF】
人工智能前沿讲习班
15+阅读 · 2019年2月27日
深度学习图像超分辨率最新综述:从模型到应用
炼数成金订阅号
65+阅读 · 2019年2月20日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
6+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
4+阅读 · 6月17日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员