Trustworthy artificial intelligence increasingly relies on probabilistic computation to achieve robustness, interpretability, security and privacy. In practical systems, such workloads interleave deterministic data access with repeated stochastic sampling across models, data paths and system functions, shifting performance bottlenecks from arithmetic units to memory systems that must deliver both data and randomness. Here we present a unified data-access perspective in which deterministic access is treated as a limiting case of stochastic sampling, enabling both modes to be analyzed within a common framework. This view reveals that increasing stochastic demand reduces effective data-access efficiency and can drive systems into entropy-limited operation. Based on this insight, we define memory-level evaluation criteria, including unified operation, distribution programmability, efficiency, robustness to hardware non-idealities and parallel compatibility. Using these criteria, we analyze limitations of conventional architectures and examine emerging probabilistic compute-in-memory approaches that integrate sampling with memory access, outlining pathways toward scalable hardware for trustworthy AI.


翻译:可信人工智能日益依赖概率计算以实现鲁棒性、可解释性、安全性与隐私保护。在实际系统中,此类工作负载将确定性数据访问与跨模型、数据路径及系统功能的重复随机采样交错进行,使性能瓶颈从算术单元转移至须同时提供数据与随机性的存储系统。本文提出统一数据访问视角,将确定性访问视为随机采样的极限情况,从而在统一框架内分析两种模式。该视角揭示:随机需求的增加会降低有效数据访问效率,并可能驱动系统进入熵受限运行状态。基于此洞见,我们定义了存储级评估准则,包括统一操作、分布可编程性、效率、对硬件非理想性的鲁棒性及并行兼容性。利用这些准则,我们分析了传统架构的局限性,并考察了将采样与存储访问集成的新兴概率存内计算方法,勾勒出面向可信人工智能可扩展硬件的实现路径。

0
下载
关闭预览

相关内容

《人工智能辅助决策中的数据可视化:系统性综述》
专知会员服务
28+阅读 · 2025年8月22日
《可信人工智能产业生态发展报告》2022最新65页
专知会员服务
108+阅读 · 2022年9月8日
人工智能系统可信性度量评估研究综述
专知会员服务
96+阅读 · 2022年1月30日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
完备的 AI 学习路线,最详细的资源整理!
新智元
18+阅读 · 2019年5月4日
从信息瓶颈理论一瞥机器学习的“大一统理论”
群体智能:新一代人工智能的重要方向
走向智能论坛
12+阅读 · 2017年8月16日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Arxiv
27+阅读 · 2023年3月17日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
7+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员