Brain organization is increasingly characterized through multiple imaging modalities, most notably structural connectivity (SC) and functional connectivity (FC). Integrating these inherently distinct yet complementary data sources is essential for uncovering the cross-modal patterns that drive behavioral phenotypes. However, effective integration is hindered by the high dimensionality and non-linearity of connectome data, complex non-linear SC-FC coupling, and the challenge of disentangling shared information from modality-specific variations. To address these issues, we propose the Cross-Modal Joint-Individual Variational Network (CM-JIVNet), a unified probabilistic framework designed to learn factorized latent representations from paired SC-FC datasets. Our model utilizes a multi-head attention fusion module to capture non-linear cross-modal dependencies while isolating independent, modality-specific signals. Validated on Human Connectome Project Young Adult (HCP-YA) data, CM-JIVNet demonstrates superior performance in cross-modal reconstruction and behavioral trait prediction. By effectively disentangling joint and individual feature spaces, CM-JIVNet provides a robust, interpretable, and scalable solution for large-scale multimodal brain analysis.


翻译:脑组织正日益通过多种成像模态进行表征,其中最为显著的是结构连接性(SC)与功能连接性(FC)。整合这些内在不同却又互补的数据源对于揭示驱动行为表型的跨模态模式至关重要。然而,连接组数据的高维性与非线性、复杂的非线性SC-FC耦合,以及从模态特异性变异中分离共享信息的挑战,都阻碍了有效的整合。为解决这些问题,我们提出了跨模态联合-独立变分网络(CM-JIVNet),这是一个统一的概率框架,旨在从配对的SC-FC数据集中学习因子化的潜在表示。我们的模型利用多头注意力融合模块来捕获非线性跨模态依赖关系,同时分离独立的、模态特定的信号。基于人类连接组计划青年成人(HCP-YA)数据的验证表明,CM-JIVNet在跨模态重建和行为特征预测方面均表现出优越性能。通过有效解耦联合与独立的特征空间,CM-JIVNet为大规模多模态脑分析提供了一个鲁棒、可解释且可扩展的解决方案。

0
下载
关闭预览

相关内容

脑网络通信综述:概念、模型和应用
专知会员服务
34+阅读 · 2023年9月7日
注意力机制综述
专知会员服务
210+阅读 · 2021年1月26日
LinkedIn最新《注意力模型》综述论文大全,20页pdf
专知会员服务
138+阅读 · 2020年12月20日
异质信息网络分析与应用综述,软件学报-北京邮电大学
Attention!注意力机制模型最新综述
中国人工智能学会
18+阅读 · 2019年4月8日
《pyramid Attention Network for Semantic Segmentation》
统计学习与视觉计算组
44+阅读 · 2018年8月30日
基于注意力机制的图卷积网络
科技创新与创业
74+阅读 · 2017年11月8日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关VIP内容
脑网络通信综述:概念、模型和应用
专知会员服务
34+阅读 · 2023年9月7日
注意力机制综述
专知会员服务
210+阅读 · 2021年1月26日
LinkedIn最新《注意力模型》综述论文大全,20页pdf
专知会员服务
138+阅读 · 2020年12月20日
异质信息网络分析与应用综述,软件学报-北京邮电大学
相关基金
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员