MRI self-supervised learning (SSL) has largely emphasized segmentation and dense prediction, while controlled studies of how alternative pretraining objectives shape transferable representations for MRI-based disease detection remain limited. We compare reconstruction-based Masked Autoencoders (MAE) and latent-predictive Joint Embedding Predictive Architectures (JEPA) for 3D structural MRI. We further introduce a spectral-domain reconstruction loss for MAE to promote sensitivity to fine-grained anatomical structure and integrate variance-covariance regularization (VCR) into JEPA to encourage broader, less redundant latent representations. Models are pretrained on heterogeneous MRI datasets using individual single-contrast inputs. Across seven dataset-task settings spanning four clinical problem domains, downstream transfer depends on both the pretraining paradigm and how the representational bias induced by a specific objective aligns with the downstream task. Spectral regularization provides its clearest gains for Alzheimer's disease classification and tumor grading, while its benefit is smaller for NC vs. MCI and ASD. VCR yields its strongest improvements when discrimination appears to involve multiple sources of structural variation. Overall, MAE-based pretraining generally outperforms baseline JEPA, with SL-MAE providing the strongest gains in several disease-detection settings. Representation analyses show that fine-tuning reorganizes learned representations in an objective-, depth-, and task-dependent manner. VCR-JEPA maintains broader effective dimensionality across depth and greater cross-task representational alignment than baseline JEPA. We publicly release subject-level pretraining and downstream evaluation splits.


翻译:暂无翻译

0
下载
关闭预览

相关内容

《视觉Transformers自监督学习机制综述》
专知会员服务
29+阅读 · 2024年9月2日
【CVPR2022】UniVIP:自监督视觉预训练的统一框架
专知会员服务
28+阅读 · 2022年3月16日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
李宏毅-201806-中文-Deep Reinforcement Learning精品课程分享
深度学习与NLP
15+阅读 · 2018年6月20日
【论文笔记】自注意力机制学习句子embedding
Relation Networks for Object Detection 论文笔记
统计学习与视觉计算组
16+阅读 · 2018年4月18日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
论文浅尝 | Improved Neural Relation Detection for KBQA
开放知识图谱
13+阅读 · 2018年1月21日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 10月19日
VIP会员
最新内容
《面向国防领域的大语言模型基准测试与适配》
专知会员服务
16+阅读 · 10月28日
世界模型入门:从序贯决策到通用智能体
专知会员服务
17+阅读 · 10月24日
相关VIP内容
《视觉Transformers自监督学习机制综述》
专知会员服务
29+阅读 · 2024年9月2日
【CVPR2022】UniVIP:自监督视觉预训练的统一框架
专知会员服务
28+阅读 · 2022年3月16日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员