Dense point tracking is a fundamental problem in computer vision, with applications ranging from video analysis to robotic manipulation. State-of-the-art trackers typically rely on cost volumes to match features across frames, but this approach incurs quadratic complexity in spatial resolution, limiting scalability and efficiency. In this paper, we propose \method, a novel dense point tracker that eschews cost volumes in favor of warping. Inspired by recent advances in optical flow, our approach iteratively refines track estimates by warping features from the target frame to the query frame based on the current estimate. Combined with a transformer architecture that performs joint spatiotemporal reasoning across all tracks, our design establishes long-range correspondences without computing feature correlations. Our model is simple and achieves state-of-the-art performance on standard dense point tracking benchmarks, including TAP-Vid-DAVIS, TAP-Vid-Kinetics, and Robo-TAP. Remarkably, the model also excels at optical flow, sometimes outperforming specialized methods on the Sintel, KITTI, and Spring benchmarks. These results suggest that warping-based architectures can unify dense point tracking and optical flow estimation.


翻译:密集点跟踪是计算机视觉中的一个基础问题,其应用范围涵盖视频分析到机器人操作。当前最先进的跟踪器通常依赖代价体积来跨帧匹配特征,但这种方法在空间分辨率上具有二次复杂度,限制了可扩展性和效率。本文提出了一种新颖的密集点跟踪器 \method,它摒弃了代价体积,转而采用变形方法。受光流领域最新进展的启发,我们的方法基于当前估计,通过将目标帧的特征变形到查询帧,迭代地优化跟踪估计。结合一个在所有轨迹上进行联合时空推理的transformer架构,我们的设计无需计算特征相关性即可建立长程对应关系。该模型结构简洁,在标准密集点跟踪基准测试(包括TAP-Vid-DAVIS、TAP-Vid-Kinetics和Robo-TAP)中达到了最先进的性能。值得注意的是,该模型在光流估计任务上也表现出色,有时在Sintel、KITTI和Spring基准测试中甚至超越了专用方法。这些结果表明,基于变形的架构可以统一密集点跟踪与光流估计。

0
下载
关闭预览

相关内容

《扩展目标跟踪方法在现代传感器中的应用》215页
专知会员服务
51+阅读 · 2024年4月22日
【ETHZ博士论文】视频通用目标跟踪,175页pdf
专知会员服务
33+阅读 · 2023年10月24日
专知会员服务
36+阅读 · 2021年5月12日
专知会员服务
50+阅读 · 2021年4月15日
计算机视觉方向简介 | 多目标跟踪算法(附源码)
计算机视觉life
15+阅读 · 2019年6月26日
视频中的多目标跟踪【附PPT与视频资料】
人工智能前沿讲习班
30+阅读 · 2018年11月29日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
63+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
63+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员