The integration of histology images and gene profiles has shown great promise for improving survival prediction in cancer. However, current approaches often struggle to model intra- and inter-modal interactions efficiently and effectively due to the high dimensionality and complexity of the inputs. A major challenge is capturing critical prognostic events that, though few, underlie the complexity of the observed inputs and largely determine patient outcomes. These events, manifested as high-level structural signals such as spatial histologic patterns or pathway co-activations, are typically sparse, patient-specific, and unannotated, making them inherently difficult to uncover. To address this, we propose SlotSPE, a slot-based framework for structural prognostic event modeling. Specifically, inspired by the principle of factorial coding, we compress each patient's multimodal inputs into compact, modality-specific sets of mutually distinctive slots using slot attention. By leveraging these slot representations as encodings for prognostic events, our framework enables both efficient and effective modeling of complex intra- and inter-modal interactions, while also facilitating seamless incorporation of biological priors that enhance prognostic relevance. Extensive experiments on ten cancer benchmarks show that SlotSPE outperforms existing methods in 8 out of 10 cohorts, achieving an overall improvement of 2.9%. It remains robust under missing genomic data and delivers markedly improved interpretability through structured event decomposition.


翻译:组织病理学图像与基因谱的整合在改善癌症生存预测方面展现出巨大潜力。然而,由于输入数据的高维性和复杂性,现有方法通常难以高效且有效地建模模态内和模态间的交互作用。其中一个主要挑战在于捕获关键预后事件——这类事件虽数量稀少,却是观测数据复杂性的根源,并在很大程度上决定患者结局。这些事件表现为高级结构信号(如空间组织学模式或通路共激活),通常具有稀疏性、患者特异性和未标注性,导致其本质难以揭示。为解决此问题,我们提出SlotSPE——一种基于槽位的结构预后事件建模框架。具体而言,受因子编码原理启发,我们采用槽位注意力机制将每位患者的多模态输入压缩为紧凑的、模态特定的互异槽位集。通过利用这些槽位表示作为预后事件的编码,我们的框架既能够高效且有效地建模复杂的模态内和模态间交互,又便于无缝整合增强预后相关性的生物先验知识。在十个癌症基准数据集上的广泛实验表明,SlotSPE在8个队列中优于现有方法,总体性能提升2.9%。该方法在缺失基因组数据时仍保持稳健,并通过结构化事件分解实现了显著改进的可解释性。

0
下载
关闭预览

相关内容

Cancer Cell综述|AI用于肿瘤学中的多模态数据集成
专知会员服务
35+阅读 · 2022年10月13日
深度学习在癌症诊断、预后和治疗选择中的应用
专知会员服务
56+阅读 · 2022年6月18日
专知会员服务
129+阅读 · 2021年6月12日
【KDD2020】动态知识图谱的多事件预测
专知会员服务
128+阅读 · 2020年8月30日
【华侨大学】基于混合深度学习算法的疾病预测模型
专知会员服务
97+阅读 · 2020年1月21日
【KDD2020】动态知识图谱的多事件预测
专知
88+阅读 · 2020年8月31日
事件知识图谱构建技术与应用综述
专知
25+阅读 · 2020年8月6日
事件知识图谱构建研究进展与趋势
THU数据派
99+阅读 · 2019年12月11日
专家报告|深度学习+图像多模态融合
中国图象图形学报
12+阅读 · 2019年10月23日
深度学习在CTR预估中的应用 | CTR深度模型大盘点
PaperWeekly
15+阅读 · 2018年4月11日
医学知识图谱构建技术与研究进展
全球人工智能
19+阅读 · 2017年11月13日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
4+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
4+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员