The rise of micro-videos has reshaped how misinformation spreads, amplifying its speed, reach, and impact on public trust. Existing benchmarks typically focus on a single deception type, overlooking the diversity of real-world cases that involve multimodal manipulation, AI-generated content, cognitive bias, and out-of-context reuse. Meanwhile, most detection models lack fine-grained attribution, limiting interpretability and practical utility. To address these gaps, we introduce WildFakeBench, a large-scale benchmark of over 10,000 real-world micro-videos covering diverse misinformation types and sources, each annotated with expert-defined attribution labels. Building on this foundation, we develop FakeAgent, a Delphi-inspired multi-agent reasoning framework that integrates multimodal understanding with external evidence for attribution-grounded analysis. FakeAgent jointly analyzes content and retrieved evidence to identify manipulation, recognize cognitive and AI-generated patterns, and detect out-of-context misinformation. Extensive experiments show that FakeAgent consistently outperforms existing MLLMs across all misinformation types, while WildFakeBench provides a realistic and challenging testbed for advancing explainable micro-video misinformation detection. Data and code are available at: https://github.com/Aiyistan/FakeAgent.


翻译:微视频的兴起重塑了虚假信息的传播方式,加速了其传播速度、扩大了覆盖范围,并加深了其对公众信任的影响。现有基准测试通常仅关注单一欺骗类型,忽视了涉及多模态操控、AI生成内容、认知偏差及脱离上下文复用等现实世界案例的多样性。与此同时,大多数检测模型缺乏细粒度归因能力,限制了可解释性和实际应用价值。为解决上述问题,我们提出了WildFakeBench——一个覆盖超过1万个真实世界微视频的大规模基准测试,涵盖多种虚假信息类型与来源,每个视频均附有专家定义的归因标签。在此基础之上,我们开发了FakeAgent——一个受德尔菲法启发的多智能体推理框架,该框架将多模态理解与外部证据相结合,实现基于归因的分析。FakeAgent联合分析内容与检索到的证据,以识别操控行为、识别认知与AI生成模式,并检测脱离上下文的虚假信息。大量实验表明,FakeAgent在所有虚假信息类型上均一致优于现有的多模态大语言模型(MMLMs),而WildFakeBench则为推动可解释的微视频虚假信息检测提供了真实且具挑战性的测试平台。数据和代码可在以下链接获取:https://github.com/Aiyistan/FakeAgent。

0
下载
关闭预览

相关内容

虚假信息检测综述
专知会员服务
8+阅读 · 2025年7月9日
【CIKM2024】使用大型视觉语言模型的多模态虚假信息检测
《综述:生成式人工智能对虚假新闻的影响》
专知会员服务
35+阅读 · 2024年4月13日
《深度伪造检测模型的准确性和鲁棒性》2023最新论文
专知会员服务
42+阅读 · 2023年10月29日
基于多模态学习的虚假新闻检测研究
专知会员服务
34+阅读 · 2023年9月8日
【CMU博士论文】鲁棒大规模音频/视觉学习,309页pdf
专知会员服务
26+阅读 · 2023年8月14日
专知会员服务
28+阅读 · 2021年8月15日
ISWC2020最佳论文《可解释假信息检测的链接可信度评价》
深度伪造与检测技术综述(中文版),25页pdf
专知
13+阅读 · 2020年12月12日
热点! 虚假新闻检测综述
专知
111+阅读 · 2019年2月26日
一文看懂虚假新闻检测(附数据集 & 论文推荐)
PaperWeekly
36+阅读 · 2019年2月19日
揭秘AI识别虚假新闻背后的原理
DeepTech深科技
10+阅读 · 2018年8月5日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
4+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
虚假信息检测综述
专知会员服务
8+阅读 · 2025年7月9日
【CIKM2024】使用大型视觉语言模型的多模态虚假信息检测
《综述:生成式人工智能对虚假新闻的影响》
专知会员服务
35+阅读 · 2024年4月13日
《深度伪造检测模型的准确性和鲁棒性》2023最新论文
专知会员服务
42+阅读 · 2023年10月29日
基于多模态学习的虚假新闻检测研究
专知会员服务
34+阅读 · 2023年9月8日
【CMU博士论文】鲁棒大规模音频/视觉学习,309页pdf
专知会员服务
26+阅读 · 2023年8月14日
专知会员服务
28+阅读 · 2021年8月15日
ISWC2020最佳论文《可解释假信息检测的链接可信度评价》
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员