How is a factual claim made credible? We propose the novel task of Epistemic Appeal Identification, which identifies whether and how factual statements have been anchored by external sources or evidence. To advance research on this task, we present FactAppeal, a manually annotated dataset of 3,226 English-language news sentences. Unlike prior resources that focus solely on claim detection and verification, FactAppeal identifies the nuanced epistemic structures and evidentiary basis underlying these claims and used to support them. FactAppeal contains span-level annotations which identify factual statements and mentions of sources on which they rely. Moreover, the annotations include fine-grained characteristics of factual appeals such as the type of source (e.g. Active Participant, Witness, Expert, Direct Evidence), whether it is mentioned by name, mentions of the source's role and epistemic credentials, attribution to the source via direct or indirect quotation, and other features. We model the task with a range of encoder models and generative decoder models in the 2B-9B parameter range. Our best performing model, based on Gemma 2 9B, achieves a macro-F1 score of 0.73.


翻译:摘要:事实主张如何建立可信度?我们提出了认知性诉求识别这一新任务,旨在识别事实陈述是否以及如何被外部来源或证据所锚定。为推进该任务研究,我们构建了FactAppeal,一个由3226条英语新闻句子构成的人工标注数据集。与仅关注主张检测与验证的现有资源不同,FactAppeal识别这些主张背后及其所依赖的细微认知结构与证据基础。该数据集包含跨度级标注,可识别事实陈述及其所依托的来源提及。此外,标注内容涵盖事实诉求的细粒度特征,例如来源类型(如主动参与者、目击者、专家、直接证据)、是否具名提及、来源角色与认知资质的指涉、通过直接或间接引用对来源的归属,以及其他属性。我们采用参数范围在2B-9B之间的多种编码器模型与生成式解码器模型对该任务进行建模。基于Gemma 2 9B的最佳模型取得了0.73的宏F1分数。

0
下载
关闭预览

相关内容

事件因果关系识别综述:原理、分类法、挑战与评估
专知会员服务
44+阅读 · 2024年11月18日
专知会员服务
34+阅读 · 2021年9月14日
专知会员服务
23+阅读 · 2021年4月20日
【中科院】命名实体识别技术综述
专知
16+阅读 · 2020年4月21日
事件知识图谱构建研究进展与趋势
THU数据派
99+阅读 · 2019年12月11日
面向新闻媒体的命名实体识别技术
PaperWeekly
18+阅读 · 2019年4月17日
热点! 虚假新闻检测综述
专知
111+阅读 · 2019年2月26日
专栏 | 用神经推理来帮助命名实体识别
机器之心
15+阅读 · 2018年11月8日
命名实体识别从数据集到算法实现
专知
56+阅读 · 2018年6月28日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
25+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Arxiv
0+阅读 · 3月9日
VIP会员
相关主题
最新内容
美国军方使用的10种反无人机武器(2026年更新)
专知会员服务
1+阅读 · 46分钟前
认知战与交战性质的改变:神经战略视角
专知会员服务
5+阅读 · 5月8日
相关VIP内容
事件因果关系识别综述:原理、分类法、挑战与评估
专知会员服务
44+阅读 · 2024年11月18日
专知会员服务
34+阅读 · 2021年9月14日
专知会员服务
23+阅读 · 2021年4月20日
相关资讯
【中科院】命名实体识别技术综述
专知
16+阅读 · 2020年4月21日
事件知识图谱构建研究进展与趋势
THU数据派
99+阅读 · 2019年12月11日
面向新闻媒体的命名实体识别技术
PaperWeekly
18+阅读 · 2019年4月17日
热点! 虚假新闻检测综述
专知
111+阅读 · 2019年2月26日
专栏 | 用神经推理来帮助命名实体识别
机器之心
15+阅读 · 2018年11月8日
命名实体识别从数据集到算法实现
专知
56+阅读 · 2018年6月28日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
25+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员