Feature attribution methods typically provide minimal sufficient evidence justifying a model decision. However, in many applications, such as compliance and cataloging, the full set of contributing features must be identified: complete evidence. We present a case study using existing language models and a medical dataset which contains human-annotated complete evidence. Our findings show that an ensemble approach, aggregating evidence from several models, improves evidence recall over individual models. We examine different ensemble sizes, the effect of evidence-guided training, and provide qualitative insights.


翻译:特征归因方法通常仅提供证明模型决策所需的最小充分证据。然而,在许多应用场景(如合规审查与信息编目)中,必须识别出所有贡献特征:即完整证据。本文通过一项案例研究,利用现有语言模型和包含人工标注完整证据的医学数据集展开分析。研究发现,集成方法通过聚合多个模型的证据,相较于单一模型能够提升证据召回率。我们考察了不同集成规模的影响,探讨了证据引导训练的效果,并提供了定性分析见解。

0
下载
关闭预览

相关内容

【ICML2025】通用智能体需要世界模型
专知会员服务
23+阅读 · 2025年6月4日
《图持续学习》综述
专知会员服务
44+阅读 · 2024年2月13日
《大型语言模型归因》综述
专知会员服务
75+阅读 · 2023年11月8日
【NeurIPS2022】分布式自适应元强化学习
专知会员服务
24+阅读 · 2022年10月8日
【ICMR2020】持续健康状态接口事件检索
专知会员服务
18+阅读 · 2020年4月18日
注意力机制综述(中文版)
专知
23+阅读 · 2021年1月26日
论文笔记之attention mechanism专题1:SA-Net(CVPR 2018)
统计学习与视觉计算组
16+阅读 · 2018年4月5日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2025年12月31日
VIP会员
相关VIP内容
【ICML2025】通用智能体需要世界模型
专知会员服务
23+阅读 · 2025年6月4日
《图持续学习》综述
专知会员服务
44+阅读 · 2024年2月13日
《大型语言模型归因》综述
专知会员服务
75+阅读 · 2023年11月8日
【NeurIPS2022】分布式自适应元强化学习
专知会员服务
24+阅读 · 2022年10月8日
【ICMR2020】持续健康状态接口事件检索
专知会员服务
18+阅读 · 2020年4月18日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员