High-precision facial landmark detection (FLD) relies on high-resolution deep feature representations. However, low-resolution face images or the compression (via pooling or strided convolution) of originally high-resolution images hinder the learning of such features, thereby reducing FLD accuracy. Moreover, insufficient training data and imprecise annotations further degrade performance. To address these challenges, we propose a weakly-supervised framework called Supervision-by-Hallucination-and-Transfer (SHT) for more robust and precise FLD. SHT contains two novel mutually enhanced modules: Dual Hallucination Learning Network (DHLN) and Facial Pose Transfer Network (FPTN). By incorporating FLD and face hallucination tasks, DHLN is able to learn high-resolution representations with low-resolution inputs for recovering both facial structures and local details and generating more effective landmark heatmaps. Then, by transforming faces from one pose to another, FPTN can further improve landmark heatmaps and faces hallucinated by DHLN for detecting more accurate landmarks. To the best of our knowledge, this is the first study to explore weakly-supervised FLD by integrating face hallucination and facial pose transfer tasks. Experimental results of both face hallucination and FLD demonstrate that our method surpasses state-of-the-art techniques.


翻译:高精度面部关键点检测依赖于高分辨率的深度特征表示。然而,低分辨率人脸图像或原始高分辨率图像的下采样(通过池化或步长卷积)阻碍了此类特征的学习,从而降低了检测精度。此外,训练数据不足与标注不精确进一步削弱了性能。为解决这些挑战,我们提出了一种名为“基于幻觉与迁移的监督”的弱监督框架,以实现更鲁棒且精确的面部关键点检测。该框架包含两个新颖的相互增强模块:双重幻觉学习网络与面部姿态迁移网络。通过融合面部关键点检测与人脸幻觉任务,双重幻觉学习网络能够从低分辨率输入中学习高分辨率表示,以恢复面部整体结构与局部细节,并生成更有效的关键点热力图。随后,通过将人脸从一种姿态转换至另一种姿态,面部姿态迁移网络可进一步优化由双重幻觉学习网络生成的关键点热力图与幻觉人脸,从而检测出更精确的关键点。据我们所知,这是首个通过整合人脸幻觉与面部姿态迁移任务来探索弱监督面部关键点检测的研究。在人脸幻觉与面部关键点检测两方面的实验结果均表明,本方法超越了现有先进技术。

0
下载
关闭预览

相关内容

《深度伪造检测模型的准确性和鲁棒性》2023最新论文
专知会员服务
41+阅读 · 2023年10月29日
专知会员服务
28+阅读 · 2021年8月24日
专知会员服务
125+阅读 · 2021年4月29日
专知会员服务
113+阅读 · 2020年3月20日
人脸静默活体检测最新综述
PaperWeekly
14+阅读 · 2020年8月9日
PFLD:简单高效的实用人脸关键点检测算法
PaperWeekly
20+阅读 · 2019年4月17日
人脸专集3 | 人脸关键点检测(下)—文末源码
计算机视觉战队
19+阅读 · 2019年4月8日
CVPR 2019 | 无监督领域特定单图像去模糊
PaperWeekly
14+阅读 · 2019年3月20日
基于视频的目标检测的发展【附PPT与视频资料】
人工智能前沿讲习班
19+阅读 · 2018年12月14日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
见微知著:语义分割中的弱监督学习
深度学习大讲堂
11+阅读 · 2017年12月6日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关VIP内容
《深度伪造检测模型的准确性和鲁棒性》2023最新论文
专知会员服务
41+阅读 · 2023年10月29日
专知会员服务
28+阅读 · 2021年8月24日
专知会员服务
125+阅读 · 2021年4月29日
专知会员服务
113+阅读 · 2020年3月20日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员