We propose a novel framework for video inpainting by adopting an internal learning strategy. Unlike previous methods that use optical flow for cross-frame context propagation to inpaint unknown regions, we show that this can be achieved implicitly by fitting a convolutional neural network to known regions. Moreover, to handle challenging sequences with ambiguous backgrounds or long-term occlusion, we design two regularization terms to preserve high-frequency details and long-term temporal consistency. Extensive experiments on the DAVIS dataset demonstrate that the proposed method achieves state-of-the-art inpainting quality quantitatively and qualitatively. We further extend the proposed method to another challenging task: learning to remove an object from a video giving a single object mask in only one frame in a 4K video.


翻译:我们建议采用内部学习战略,为视频绘画提供一个新的框架。与以往使用光学流将跨框架背景传播到未知区域的方法不同,我们显示,通过将进化神经网络安装到已知区域,可以隐含地做到这一点。此外,为了处理背景不明或长期隔离的具有挑战性的序列,我们设计了两个正规化术语,以保存高频细节和长期时间一致性。关于DAVIS数据集的广泛实验表明,拟议方法在数量和质量上都达到了最先进的质量绘画水平。我们进一步将拟议方法扩大到另一个具有挑战性的任务:学习从视频中删除一个对象,在4K视频中仅用一个框提供单一物体面具。

0
下载
关闭预览

相关内容

图像修复(英语:Inpainting)指重建的图像和视频中丢失或损坏的部分的过程。例如在博物馆中,这项工作常由经验丰富的博物馆管理员或者艺术品修复师来进行。数码世界中,图像修复又称图像插值或视频插值,指利用复杂的算法来替换已丢失、损坏的图像数据,主要替换一些小区域和瑕疵。
专知会员服务
25+阅读 · 2021年9月25日
【WSDM2021】拓扑去噪的鲁棒图神经网络
专知会员服务
27+阅读 · 2020年11月14日
已删除
将门创投
4+阅读 · 2017年7月7日
Foreground-aware Image Inpainting
Arxiv
4+阅读 · 2019年1月17日
VIP会员
最新内容
2025年大语言模型进展报告
专知会员服务
1+阅读 · 32分钟前
多智能体协作机制
专知会员服务
0+阅读 · 36分钟前
非对称优势:美海军开发低成本反无人机技术
专知会员服务
4+阅读 · 今天4:39
《美战争部小企业创新研究(SBIR)计划》
专知会员服务
6+阅读 · 今天2:48
《军事模拟:将军事条令与目标融入AI智能体》
专知会员服务
9+阅读 · 今天2:43
【NTU博士论文】3D人体动作生成
专知会员服务
7+阅读 · 4月24日
以色列军事技术对美国军力发展的持续性赋能
专知会员服务
8+阅读 · 4月24日
《深度强化学习在兵棋推演中的应用》40页报告
专知会员服务
13+阅读 · 4月24日
《多域作战面临复杂现实》
专知会员服务
9+阅读 · 4月24日
《印度的多域作战:条令与能力发展》报告
专知会员服务
4+阅读 · 4月24日
相关资讯
已删除
将门创投
4+阅读 · 2017年7月7日
Top
微信扫码咨询专知VIP会员