自然语言本质上编码了人类的知识与推理逻辑。本论文探讨了语言如何作为人类与医学影像人工智能(AI)方法之间的接口。语言既可以作为一种监督信号或约束,用以学习捕捉人类对医学影像理解的深层表示;同时,语言也可以作为一种媒介,使 AI 系统能够向用户传达其决策过程。 * 视觉语言解释基准(e-ViL Benchmark):首先,我引入了 e-ViL 基准,用于系统性地评估视觉语言模型生成自然语言解释(NLEs)的能力。通过引入目前规模最大的数据集、整合现有数据并提出一种新颖的架构,我证明了文本解释能够有效约束模型推理,并提供一种符合人类认知过程的可解释性接口。此外,本项工作揭示了自动评价指标在评估 NLE 质量方面的局限性,并据此提出了一个人工评估框架。 * 医学影像中的 NLE 扩展:基于上述见解,我将 NLE 的概念扩展至医学影像领域(特别是胸部 X 光分析)。通过直接从放射科报告中提取解释,我构建了新型数据集。在该数据集上训练的模型不仅能生成镜像模拟放射科医生推理逻辑的解释,且通过强调模型规模与思维链(Chain-of-Thought, CoT)提示词,显著提升了诊断准确率。 * 临床应用中的双重影响:第三,为进一步理解语言作为 AI 决策沟通媒介的作用,我组织了一项大规模用户研究,邀请 85 名临床医生在不同的可解释性(XAI)条件下与 AI 进行交互。研究揭示了一个关键的矛盾现象:临床医生强烈倾向于使用基于语言的解释,但往往对其产生过度依赖(Overrely),导致诊断错误率升高。这些发现强调了将此类基于语言的 AI 系统整合至临床环境时所需的复杂性与谨慎态度。 * 语言引导的监督学习泛化:最后,我将语言作为监督信号的方法泛化至脑部 MRI 模型的从头训练(Training from scratch)中。该方法有效解决了该领域标注医学数据稀缺的问题,并提升了一系列下游任务的性能,展示了语言引导学习在医学影像中的广泛适用性与巨大潜力。

本论文深化了我们对语言与医学 AI 模型集成的理解。研究表明,该集成在提升模型性能与可解释性方面具有显著优势,同时也指出了为确保临床部署的安全性和有效性所必须解决的关键问题。

成为VIP会员查看完整内容
15

相关内容

【MIT博士论文】以语言为中心的医学影像理解
专知会员服务
17+阅读 · 2025年12月23日
用于三维医学影像理解的综合语言–图像预训练
专知会员服务
7+阅读 · 2025年11月5日
【博士论文】学习视觉-语言表示以实现多模态理解
专知会员服务
28+阅读 · 2025年2月8日
【NTU博士论文】语言模型自适应迁移学习
专知会员服务
38+阅读 · 2023年12月20日
【新书】自然语言处理表示学习技术,349页pdf,清华大学
专知会员服务
174+阅读 · 2020年7月11日
专知会员服务
201+阅读 · 2020年3月6日
【综述论文】2020年最新深度学习自然语言处理进展综述论文!!!
深度学习自然语言处理
13+阅读 · 2020年4月6日
自然语言处理NLP快速入门
专知
20+阅读 · 2018年10月8日
从语言学到深度学习NLP,一文概述自然语言处理
人工智能学家
13+阅读 · 2018年1月28日
国家自然科学基金
7+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
VIP会员
最新内容
 军事通信系统与设备的技术演进综述
专知会员服务
0+阅读 · 29分钟前
《北约标准:医疗评估手册》174页
专知会员服务
0+阅读 · 37分钟前
《提升生成模型的安全性与保障》博士论文
专知会员服务
0+阅读 · 41分钟前
美国当前高超音速导弹发展概述
专知会员服务
4+阅读 · 4月19日
无人机蜂群建模与仿真方法
专知会员服务
8+阅读 · 4月19日
澳大利亚发布《国防战略(2026年)》
专知会员服务
2+阅读 · 4月19日
全球高超音速武器最新发展趋势
专知会员服务
3+阅读 · 4月19日
相关VIP内容
【MIT博士论文】以语言为中心的医学影像理解
专知会员服务
17+阅读 · 2025年12月23日
用于三维医学影像理解的综合语言–图像预训练
专知会员服务
7+阅读 · 2025年11月5日
【博士论文】学习视觉-语言表示以实现多模态理解
专知会员服务
28+阅读 · 2025年2月8日
【NTU博士论文】语言模型自适应迁移学习
专知会员服务
38+阅读 · 2023年12月20日
【新书】自然语言处理表示学习技术,349页pdf,清华大学
专知会员服务
174+阅读 · 2020年7月11日
专知会员服务
201+阅读 · 2020年3月6日
相关基金
国家自然科学基金
7+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员