Deepfake detection research has largely converged on deep learning approaches that, despite strong benchmark performance, offer limited insight into what distinguishes real from manipulated facial behavior. This study presents an interpretable alternative grounded in bio-behavioral features of facial dynamics and evaluates how computational detection strategies relate to human perceptual judgments. We identify core low-dimensional patterns of facial movement, from which temporal features characterizing spatiotemporal structure were derived. Traditional machine learning classifiers trained on these features achieved modest but significant above-chance deepfake classification, driven by higher-order temporal irregularities that were more pronounced in manipulated than real facial dynamics. Notably, detection was substantially more accurate for videos containing emotive expressions than those without. An emotional valence classification analysis further indicated that emotive signals are systematically degraded in deepfakes, explaining the differential impact of emotive dynamics on detection. Furthermore, we provide an additional and often overlooked dimension of explainability by assessing the relationship between model decisions and human perceptual detection. Model and human judgments converged for emotive but diverged for non-emotive videos, and even where outputs aligned, underlying detection strategies differed. These findings demonstrate that face-swapped deepfakes carry a measurable behavioral fingerprint, most salient during emotional expression. Additionally, model-human comparisons suggest that interpretable computational features and human perception may offer complementary rather than redundant routes to detection.


翻译:深度伪造检测研究在很大程度上已经趋同于深度学习方法,尽管这些方法在基准测试中表现强劲,但在区分真实与操纵的人脸行为方面提供的见解有限。本研究提出了一种基于人脸动态生物行为特征的可解释替代方案,并评估了计算检测策略与人类感知判断之间的关系。我们识别了人脸运动的核心低维模式,并从中提取了表征时空结构的时序特征。基于这些特征训练的传统机器学习分类器取得了适度但显著的优于随机水平的深度伪造分类效果,其驱动力来自操纵人脸动态中比真实动态更明显的高阶时序不规则性。值得注意的是,对于包含表情的视频,检测准确率显著高于不包含表情的视频。情感效价分类分析进一步表明,深度伪造中的情感信号被系统性降级,这解释了情感动态对检测的差异性影响。此外,我们通过评估模型决策与人类感知检测之间的关系,提供了通常被忽视的可解释性维度。模型和人类判断在情感视频上趋于一致,但在非情感视频上出现分歧,即使输出结果一致,底层检测策略也存在差异。这些发现表明,换脸深度伪造带有可测量的行为指纹,在情感表达期间最为显著。此外,模型与人类的比较表明,可解释的计算特征与人类感知可能提供互补而非冗余的检测途径。

0
下载
关闭预览

相关内容

深度伪造及其取证技术综述
专知会员服务
30+阅读 · 2024年4月26日
视觉深度伪造检测技术综述
专知会员服务
37+阅读 · 2022年1月28日
【AAAI2022】基于渐进式增强学习的人脸伪造图像检测
专知会员服务
22+阅读 · 2022年1月19日
专知会员服务
56+阅读 · 2021年3月5日
专知会员服务
76+阅读 · 2020年12月12日
最新《深度学习人脸识别》综述论文,
专知会员服务
68+阅读 · 2020年8月10日
最新《Deepfakes:创造与检测》2020综述论文,36页pdf
专知会员服务
65+阅读 · 2020年5月15日
深度伪造与检测技术综述(中文版),25页pdf
专知
13+阅读 · 2020年12月12日
人脸静默活体检测最新综述
PaperWeekly
14+阅读 · 2020年8月9日
深度学习模型可解释性的研究进展
专知
26+阅读 · 2020年8月1日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
人脸识别技术全面总结:从传统方法到深度学习
算法与数学之美
12+阅读 · 2019年2月27日
清华大学发布:人脸识别最全知识图谱
全球创新论坛
10+阅读 · 2018年11月21日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 3月20日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
6+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
深度伪造及其取证技术综述
专知会员服务
30+阅读 · 2024年4月26日
视觉深度伪造检测技术综述
专知会员服务
37+阅读 · 2022年1月28日
【AAAI2022】基于渐进式增强学习的人脸伪造图像检测
专知会员服务
22+阅读 · 2022年1月19日
专知会员服务
56+阅读 · 2021年3月5日
专知会员服务
76+阅读 · 2020年12月12日
最新《深度学习人脸识别》综述论文,
专知会员服务
68+阅读 · 2020年8月10日
最新《Deepfakes:创造与检测》2020综述论文,36页pdf
专知会员服务
65+阅读 · 2020年5月15日
相关资讯
深度伪造与检测技术综述(中文版),25页pdf
专知
13+阅读 · 2020年12月12日
人脸静默活体检测最新综述
PaperWeekly
14+阅读 · 2020年8月9日
深度学习模型可解释性的研究进展
专知
26+阅读 · 2020年8月1日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
人脸识别技术全面总结:从传统方法到深度学习
算法与数学之美
12+阅读 · 2019年2月27日
清华大学发布:人脸识别最全知识图谱
全球创新论坛
10+阅读 · 2018年11月21日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员