In recent years, multimodal multidomain fake news detection has garnered increasing attention. Nevertheless, this direction presents two significant challenges: (1) Failure to Capture Cross-Instance Narrative Consistency: existing models usually evaluate each news in isolation, fail to capture cross-instance narrative consistency, and thus struggle to address the spread of cluster based fake news driven by social media; (2) Lack of Domain Specific Knowledge for Reasoning: conventional models, which rely solely on knowledge encoded in their parameters during training, struggle to generalize to new or data-scarce domains (e.g., emerging events or niche topics). To tackle these challenges, we introduce Retrieval-Augmented Multimodal Model for Fake News Detection (RAMM). First, RAMM employs a Multimodal Large Language Model (MLLM) as its backbone to capture cross-modal semantic information from news samples. Second, RAMM incorporates an Abstract Narrative Alignment Module. This component adaptively extracts abstract narrative consistency from diverse instances across distinct domains, aggregates relevant knowledge, and thereby enables the modeling of high-level narrative information. Finally, RAMM introduces a Semantic Representation Alignment Module, which aligns the model's decision-making paradigm with that of humans - specifically, it shifts the model's reasoning process from direct inference on multimodal features to an instance-based analogical reasoning process. Extensive experimental results on three public datasets validate the efficacy of our proposed approach. Our code is available at the following link: https://github.com/li-yiheng/RAMM


翻译:近年来,多模态多领域假新闻检测日益受到关注。然而,该方向面临两大挑战:(1)无法捕捉跨实例叙事一致性:现有模型通常孤立评估每条新闻,未能捕捉跨实例的叙事一致性,难以应对社交媒体驱动的集群式假新闻传播;(2)缺乏领域特定推理知识:传统模型仅依赖训练时编码在参数中的知识,难以泛化至新领域或数据稀缺领域(如新兴事件或小众话题)。为应对这些挑战,我们提出了检索增强多模态假新闻检测模型(RAMM)。首先,RAMM采用多模态大语言模型(MLLM)作为主干网络,以捕捉新闻样本中的跨模态语义信息。其次,RAMM引入抽象叙事对齐模块,该模块自适应地从不同领域的多样实例中提取抽象叙事一致性,聚合相关知识,从而实现对高层次叙事信息的建模。最后,RAMM提出语义表征对齐模块,将模型的决策范式与人类决策范式对齐——具体而言,它将模型的推理过程从基于多模态特征的直接推理转变为基于实例的类比推理过程。在三个公开数据集上的大量实验结果验证了所提方法的有效性。我们的代码可在以下链接获取:https://github.com/li-yiheng/RAMM

0
下载
关闭预览

相关内容

《多模态假新闻检测框架》2023最新80页论文
专知会员服务
45+阅读 · 2023年10月30日
基于多模态学习的虚假新闻检测研究
专知会员服务
35+阅读 · 2023年9月8日
【CVPR2021】跨模态检索的概率嵌入
专知
17+阅读 · 2021年3月2日
热点! 虚假新闻检测综述
专知
111+阅读 · 2019年2月26日
一文看懂虚假新闻检测(附数据集 & 论文推荐)
PaperWeekly
36+阅读 · 2019年2月19日
揭秘AI识别虚假新闻背后的原理
DeepTech深科技
10+阅读 · 2018年8月5日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Arxiv
0+阅读 · 4月25日
VIP会员
最新内容
《人工智能赋能的适应性多功能电磁战》
专知会员服务
3+阅读 · 今天15:47
俄乌战场实验室:全面战争如何重塑现代作战
专知会员服务
3+阅读 · 今天15:30
2026年美空军协会会议上的无人机系统趋势
专知会员服务
7+阅读 · 9月28日
反制无人机:乌克兰提供的五点启示
专知会员服务
12+阅读 · 9月23日
《各指挥层级均亟需红队能力》报告
专知会员服务
10+阅读 · 9月23日
《航电任务系统框架(FAMOS)》50页报告
专知会员服务
8+阅读 · 9月22日
《对抗行动中的人工智能与自主性》智库报告
专知会员服务
13+阅读 · 9月22日
《从数据到胜利:战争中的分析优势之争》
专知会员服务
16+阅读 · 9月22日
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员