Multimodal magnetic resonance imaging (MRI) can reveal different patterns of human tissue and is crucial for clinical diagnosis. However, limited by cost, noise and manual labeling, obtaining diverse and reliable multimodal MR images remains a challenge. For the same lesion, different MRI manifestations have great differences in background information, coarse positioning and fine structure. In order to obtain better generation and segmentation performance, a coordination-spatial attention generation adversarial network (CASP-GAN) based on the cycle-consistent generative adversarial network (CycleGAN) is proposed. The performance of the generator is optimized by introducing the Coordinate Attention (CA) module and the Spatial Attention (SA) module. The two modules can make full use of the captured location information, accurately locating the interested region, and enhancing the generator model network structure. The ability to extract the structure information and the detailed information of the original medical image can help generate the desired image with higher quality. There exist some problems in the original CycleGAN that the training time is long, the parameter amount is too large, and it is difficult to converge. In response to this problem, we introduce the Coordinate Attention (CA) module to replace the Res Block to reduce the number of parameters, and cooperate with the spatial information extraction network above to strengthen the information extraction ability. On the basis of CASP-GAN, an attentional generative cross-modality segmentation (AGCMS) method is further proposed. This method inputs the modalities generated by CASP-GAN and the real modalities into the segmentation network for brain tumor segmentation. Experimental results show that CASP-GAN outperforms CycleGAN and some state-of-the-art methods in PSNR, SSMI and RMSE in most tasks.


翻译:多模态磁共振成像(MRI)能够揭示人体组织的不同模式,对于临床诊断至关重要。然而,受限于成本、噪声和人工标注,获取多样且可靠的多模态MR图像仍是一大挑战。对于同一病灶,不同MRI表现中背景信息、粗定位和精细结构存在显著差异。为了获得更优的生成与分割性能,本文提出了一种基于循环一致性生成对抗网络(CycleGAN)的协调-空间注意力生成对抗网络(CASP-GAN)。通过引入坐标注意力(CA)模块和空间注意力(SA)模块优化生成器性能,这两个模块能够充分利用捕获的位置信息,精确定位感兴趣区域,并增强生成器模型网络结构。其提取原始医学图像结构信息与细节信息的能力有助于生成更高质量的期望图像。原始CycleGAN存在训练时间长、参数量过大及难以收敛等问题。针对这一问题,我们引入坐标注意力(CA)模块替代残差块以减少参数量,并与上述空间信息提取网络协同强化信息提取能力。在CASP-GAN基础上,进一步提出注意力生成跨模态分割(AGCMS)方法。该方法将CASP-GAN生成的模态与真实模态输入分割网络进行脑肿瘤分割。实验结果表明,在大多数任务中,CASP-GAN在PSNR、SSMI和RMSE指标上优于CycleGAN及若干最新方法。

0
下载
关闭预览

相关内容

图像分割二十年,盘点影响力最大的10篇论文
专知会员服务
45+阅读 · 2022年2月7日
【Google-BryanLim等】可解释深度学习时序预测
专知会员服务
64+阅读 · 2021年12月19日
专知会员服务
43+阅读 · 2021年8月20日
专知会员服务
90+阅读 · 2021年6月29日
最新《Transformers模型》教程,64页ppt
专知会员服务
326+阅读 · 2020年11月26日
NeurlPS2022推荐系统论文集锦
机器学习与推荐算法
1+阅读 · 2022年9月26日
一文带你读懂 SegNet(语义分割)
AI研习社
19+阅读 · 2019年3月9日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
《pyramid Attention Network for Semantic Segmentation》
统计学习与视觉计算组
44+阅读 · 2018年8月30日
论文 | YOLO(You Only Look Once)目标检测
七月在线实验室
14+阅读 · 2017年12月12日
可解释的CNN
CreateAMind
18+阅读 · 2017年10月5日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
0+阅读 · 2023年6月1日
Arxiv
0+阅读 · 2023年5月31日
W-net: Bridged U-net for 2D Medical Image Segmentation
Arxiv
20+阅读 · 2018年7月12日
VIP会员
最新内容
博士论文 | 面向大模型推理的内存高效算法
专知会员服务
0+阅读 · 今天15:20
美空军新型反无人机部队初探
专知会员服务
4+阅读 · 今天5:45
《防空交战流程的概率建模研究》
专知会员服务
6+阅读 · 今天5:04
ICML 2026 教程 | 数值优化理论还重要吗?
专知会员服务
5+阅读 · 7月26日
ICM 2026 | 陶哲轩:人工智能时代的数学
专知会员服务
9+阅读 · 7月26日
《反无人机交战场景下的战斗归零研究》
专知会员服务
7+阅读 · 7月26日
博士论文 | 用代码结构感知方法推进代码大模型
相关VIP内容
图像分割二十年,盘点影响力最大的10篇论文
专知会员服务
45+阅读 · 2022年2月7日
【Google-BryanLim等】可解释深度学习时序预测
专知会员服务
64+阅读 · 2021年12月19日
专知会员服务
43+阅读 · 2021年8月20日
专知会员服务
90+阅读 · 2021年6月29日
最新《Transformers模型》教程,64页ppt
专知会员服务
326+阅读 · 2020年11月26日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员