The study of representations is widespread across fields, including neuroscience, psychology, and artificial intelligence. While representations are often studied and compared through similarities between stimuli, current methods provide only limited access to the dimensions that shape these representations and are often limited in interpretability. To overcome these challenges, here we introduce Similarity-Based Representation Factorization (SRF), a general computational method for recovering low-dimensional, non-negative, interpretable embeddings from similarity matrices derived from measured data. Across simulations and many neural, behavioral, and computational datasets, SRF recovers interpretable dimensions from diverse forms of representational data, even for very sparsely sampled, incomplete data. The dimensions derived from these datasets match those obtained by task-specific models, predict independent behavioral properties, improve exploratory analysis, and offer higher power for confirmatory hypothesis testing than comparing similarity matrices. Together, these results establish SRF as a general-purpose method with broad applications for uncovering, understanding, and using the dimensions underlying representations.


翻译:表征研究广泛存在于神经科学、心理学和人工智能等领域。尽管当前常通过刺激间的相似性来研究和比较表征,但现有方法对构成这些表征的维度的解析能力有限,且可解释性常受制约。为解决这些挑战,本文提出了基于相似性的表示分解方法(Similarity-Based Representation Factorization, SRF)——一种从实测数据导出的相似性矩阵中恢复低维、非负、可解释嵌入的通用计算方法。通过仿真实验及神经、行为和计算多类数据集验证,SRF能够从不同形式的表征数据中恢复可解释维度,即使面对高度稀疏且不完整的数据集仍有效。从这些数据集中提取的维度与任务特定模型所得维度高度吻合,可预测独立的行为属性,改善探索性分析,并在验证性假设检验中比直接比较相似性矩阵具有更高统计效力。这些结果表明,SRF作为一种通用方法,在揭示、理解及应用表征的潜在维度方面具有广泛适用性。

0
下载
关闭预览

相关内容

可解释人工智能的基础
专知会员服务
32+阅读 · 2025年10月26日
【NeurIPS2021】神经网络表示的相似度和匹配
专知会员服务
27+阅读 · 2021年10月29日
专知会员服务
52+阅读 · 2021年6月16日
专知会员服务
44+阅读 · 2021年4月18日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
计算文本相似度常用的四种方法
论智
33+阅读 · 2018年5月18日
【学界】从可视化到新模型:纵览深度学习的视觉可解释性
GAN生成式对抗网络
10+阅读 · 2018年3月4日
特征工程的特征理解(一)
机器学习研究会
10+阅读 · 2017年10月23日
各种相似性度量及Python实现
机器学习算法与Python学习
11+阅读 · 2017年7月6日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
1+阅读 · 今天14:45
定向能反无人机系统最新发展动态
专知会员服务
3+阅读 · 今天13:50
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
2+阅读 · 今天13:33
相关资讯
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
计算文本相似度常用的四种方法
论智
33+阅读 · 2018年5月18日
【学界】从可视化到新模型:纵览深度学习的视觉可解释性
GAN生成式对抗网络
10+阅读 · 2018年3月4日
特征工程的特征理解(一)
机器学习研究会
10+阅读 · 2017年10月23日
各种相似性度量及Python实现
机器学习算法与Python学习
11+阅读 · 2017年7月6日
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员