Large language models (LLMs) are increasingly applied to health management, showing promise across disease prevention, clinical decision-making, and long-term care. However, existing medical benchmarks remain largely static and task-isolated, failing to capture the openness, longitudinal structure, and safety-critical complexity of real-world clinical workflows. We introduce ClinConsensus, a Chinese medical benchmark curated, validated, and quality-controlled by clinical experts. ClinConsensus comprises 2500 open-ended cases spanning the full continuum of care--from prevention and intervention to long-term follow-up--covering 36 medical specialties, 12 common clinical task types, and progressively increasing levels of complexity. To enable reliable evaluation of such complex scenarios, we adopt a rubric-based grading protocol and propose the Clinically Applicable Consistency Score (CACS@k). We further introduce a dual-judge evaluation framework, combining a high-capability LLM-as-judge with a distilled, locally deployable judge model trained via supervised fine-tuning, enabling scalable and reproducible evaluation aligned with physician judgment. Using ClinConsensus, we conduct a comprehensive assessment of several leading LLMs and reveal substantial heterogeneity across task themes, care stages, and medical specialties. While top-performing models achieve comparable overall scores, they differ markedly in reasoning, evidence use, and longitudinal follow-up capabilities, and clinically actionable treatment planning remains a key bottleneck. We release ClinConsensus as an extensible benchmark to support the development and evaluation of medical LLMs that are robust, clinically grounded, and ready for real-world deployment.


翻译:大语言模型在健康管理中的应用日益广泛,在疾病预防、临床决策和长期护理等领域展现出潜力。然而,现有医疗评估基准大多为静态且任务孤立的,未能体现真实临床工作流程的开放性、纵向结构及安全关键复杂性。本文提出ClinConsensus——一个由临床专家参与构建、验证与质控的中文医疗评估基准。该基准包含2500个开放式案例,覆盖从预防、干预到长期随访的全周期诊疗过程,涵盖36个医学专科、12种常见临床任务类型,并设置了渐进递增的复杂度层级。为可靠评估此类复杂场景,我们采用基于量规的评分协议,并提出临床适用一致性评分(CACS@k)。进一步,我们设计了双裁判评估框架,将高性能LLM-as-judge与通过监督微调训练的、可本地部署的蒸馏裁判模型相结合,实现与医师判断对齐的可扩展、可复现评估。基于ClinConsensus,我们对多个主流大语言模型进行了全面评估,发现模型在不同任务主题、诊疗阶段及医学专科间存在显著异质性。尽管表现最优的模型总体得分相近,但在推理能力、证据运用和纵向随访方面差异明显,且具有临床可操作性的治疗规划仍是关键瓶颈。我们公开发布ClinConsensus作为可扩展的基准,以支持开发与评估具有鲁棒性、临床基础扎实且适用于真实场景部署的医疗大语言模型。

0
下载
关闭预览

相关内容

医学领域大型语言模型的新进展
专知会员服务
25+阅读 · 2025年10月5日
大语言模型基准综述
专知会员服务
27+阅读 · 2025年8月22日
多模态大规模语言模型基准的综述
专知会员服务
41+阅读 · 2024年8月25日
医学大语言模型研究与应用综述
专知会员服务
67+阅读 · 2024年7月2日
LLM in Medical Domain: 大语言模型在医学领域的应用
专知会员服务
103+阅读 · 2023年6月17日
多轮对话之对话管理:Dialog Management
PaperWeekly
18+阅读 · 2018年1月15日
资源 | 清华大学开源OpenKE:知识表示学习平台
机器之心
10+阅读 · 2017年11月4日
国家自然科学基金
23+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
战略前沿人工智能的再思考(中文)
专知会员服务
4+阅读 · 5月29日
《量化地基防空系统间接效应的博弈论方法》
专知会员服务
4+阅读 · 5月29日
“史诗怒火行动”中美军损失的作战飞机
专知会员服务
4+阅读 · 5月29日
ICML 2026 | 理解上下文持续学习中的泛化与遗忘
专知会员服务
5+阅读 · 5月28日
Agent Harness综述:大模型智能体执行器工程全景
专知会员服务
14+阅读 · 5月28日
《基于理论的威慑效能评估》
专知会员服务
8+阅读 · 5月28日
相关基金
国家自然科学基金
23+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员