In the era of digital animation, the quest to produce lifelike facial animations for virtual characters has led to the development of various retargeting methods. While the retargeting facial motion between models of similar shapes has been very successful, challenges arise when the retargeting is performed on stylized or exaggerated 3D characters that deviate significantly from human facial structures. In this scenario, it is important to consider the target character's facial structure and possible range of motion to preserve the semantics assumed by the original facial motions after the retargeting. To achieve this, we propose a local patch-based retargeting method that transfers facial animations captured in a source performance video to a target stylized 3D character. Our method consists of three modules. The Automatic Patch Extraction Module extracts local patches from the source video frame. These patches are processed through the Reenactment Module to generate correspondingly re-enacted target local patches. The Weight Estimation Module calculates the animation parameters for the target character at every frame for the creation of a complete facial animation sequence. Extensive experiments demonstrate that our method can successfully transfer the semantic meaning of source facial expressions to stylized characters with considerable variations in facial feature proportion.


翻译:在数字动画时代,为虚拟角色生成逼真面部动画的需求催生了多种重定向方法的发展。虽然相似形状模型间的面部运动重定向已非常成功,但当重定向应用于偏离人类面部结构的风格化或夸张三维角色时,仍面临诸多挑战。在此场景下,必须考虑目标角色的面部结构及可能运动范围,以保持原始面部运动在重定向后所蕴含的语义信息。为此,我们提出一种基于局部块的重定向方法,将源表演视频中捕获的面部动画迁移至目标风格化三维角色。该方法包含三个模块:自动块提取模块从源视频帧中提取局部块;重演模块处理这些局部块以生成对应的目标重演局部块;权重估计模块逐帧计算目标角色的动画参数,以构建完整的面部动画序列。大量实验表明,本方法能成功将源面部表情的语义信息迁移至面部特征比例存在显著差异的风格化角色。

0
下载
关闭预览

相关内容

深度学习背景下的图像三维重建技术进展综述
专知会员服务
38+阅读 · 2023年9月4日
基于深度学习的图像融合方法综述
专知会员服务
57+阅读 · 2023年1月25日
深度学习人脸特征点自动定位综述
专知会员服务
24+阅读 · 2021年12月1日
专知会员服务
44+阅读 · 2021年4月18日
专知会员服务
56+阅读 · 2021年3月5日
专知会员服务
22+阅读 · 2021年1月5日
专知会员服务
46+阅读 · 2020年12月4日
深度解析人脸关键点Landmark算法FPS3000
CVer
13+阅读 · 2020年7月4日
最全综述:基于深度学习的三维重建算法
极市平台
13+阅读 · 2020年3月17日
三维重建 3D reconstruction 有哪些实用算法?
极市平台
13+阅读 · 2020年2月23日
计算机视觉方向简介 | 人脸表情识别
计算机视觉life
36+阅读 · 2019年5月15日
目前最好的开源人脸3D重建与密集对齐算法
计算机视觉life
17+阅读 · 2019年4月24日
人脸相关算法、数据集、文献资源大列表
专知
16+阅读 · 2019年3月16日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
从人脸识别到行人重识别,下一个风口
计算机视觉战队
13+阅读 · 2017年11月24日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关VIP内容
深度学习背景下的图像三维重建技术进展综述
专知会员服务
38+阅读 · 2023年9月4日
基于深度学习的图像融合方法综述
专知会员服务
57+阅读 · 2023年1月25日
深度学习人脸特征点自动定位综述
专知会员服务
24+阅读 · 2021年12月1日
专知会员服务
44+阅读 · 2021年4月18日
专知会员服务
56+阅读 · 2021年3月5日
专知会员服务
22+阅读 · 2021年1月5日
专知会员服务
46+阅读 · 2020年12月4日
相关资讯
深度解析人脸关键点Landmark算法FPS3000
CVer
13+阅读 · 2020年7月4日
最全综述:基于深度学习的三维重建算法
极市平台
13+阅读 · 2020年3月17日
三维重建 3D reconstruction 有哪些实用算法?
极市平台
13+阅读 · 2020年2月23日
计算机视觉方向简介 | 人脸表情识别
计算机视觉life
36+阅读 · 2019年5月15日
目前最好的开源人脸3D重建与密集对齐算法
计算机视觉life
17+阅读 · 2019年4月24日
人脸相关算法、数据集、文献资源大列表
专知
16+阅读 · 2019年3月16日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
从人脸识别到行人重识别,下一个风口
计算机视觉战队
13+阅读 · 2017年11月24日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员