We propose RIFE, a Real-time Intermediate Flow Estimation algorithm for Video Frame Interpolation (VFI). Many recent flow-based VFI methods first estimate the bi-directional optical flows, then scale and reverse them to approximate intermediate flows, leading to artifacts on motion boundaries. RIFE uses a neural network named IFNet that can directly estimate the intermediate flows from coarse-to-fine with much better speed. We design a privileged distillation scheme for training intermediate flow model, which leads to a large performance improvement. RIFE does not rely on pre-trained optical flow models and can support arbitrary-timestep frame interpolation. Experiments demonstrate that RIFE achieves state-of-the-art performance on several public benchmarks. \url{https://github.com/hzwer/arXiv2020-RIFE}.


翻译:我们建议使用实时中流估算算法(RIFE ), 用于视频框架内插(VFI ) 。 许多最近的基于流动的VFI方法首先估计双向光学流,然后将其缩放并转换为近似中间流,从而在运动边界上产生文物。 RIFE 使用一个名为 IFNet 的神经网络,可以更快地直接估计从粗向松流流的中间流。我们为培训中间流模式设计了一个特别精良的蒸馏计划,这会导致很大的性能改进。 RIFE 不依赖预先培训的光学流模型,可以支持任意的分步框架内插。 实验表明,RIFE在几个公共基准上取得了最新业绩。\url{https://github.com/hzwer/arXiv20-RIFE}。

0
下载
关闭预览

相关内容

专知会员服务
54+阅读 · 2021年6月30日
专知会员服务
110+阅读 · 2020年3月12日
逆强化学习-学习人先验的动机
CreateAMind
16+阅读 · 2019年1月18日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
【推荐】(TensorFlow)SSD实时手部检测与追踪(附代码)
机器学习研究会
11+阅读 · 2017年12月5日
【推荐】深度学习目标检测概览
机器学习研究会
10+阅读 · 2017年9月1日
Arxiv
5+阅读 · 2018年4月13日
Arxiv
7+阅读 · 2017年12月26日
VIP会员
相关资讯
逆强化学习-学习人先验的动机
CreateAMind
16+阅读 · 2019年1月18日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
【推荐】(TensorFlow)SSD实时手部检测与追踪(附代码)
机器学习研究会
11+阅读 · 2017年12月5日
【推荐】深度学习目标检测概览
机器学习研究会
10+阅读 · 2017年9月1日
Top
微信扫码咨询专知VIP会员