Monocular depth estimation has applications in many fields, such as autonomous navigation and extended reality, making it an essential computer vision task. However, current methods often produce smooth depth maps that lack the fine geometric detail needed for accurate scene understanding. We propose MDENeRF, an iterative framework that refines monocular depth estimates using depth information from Neural Radiance Fields (NeRFs). MDENeRF consists of three components: (1) an initial monocular estimate for global structure, (2) a NeRF trained on perturbed viewpoints, with per-pixel uncertainty, and (3) Bayesian fusion of the noisy monocular and NeRF depths. We derive NeRF uncertainty from the volume rendering process to iteratively inject high-frequency fine details. Meanwhile, our monocular prior maintains global structure. We demonstrate superior performance on key metrics and experiments using indoor scenes from the SUN RGB-D dataset.


翻译:单目深度估计在自动驾驶导航和扩展现实等诸多领域具有重要应用,使其成为计算机视觉中的关键任务。然而,现有方法通常生成平滑的深度图,缺乏精确场景理解所需的精细几何细节。本文提出MDENeRF,一种利用神经辐射场(NeRF)深度信息迭代优化单目深度估计的框架。MDENeRF包含三个核心组件:(1)用于全局结构的初始单目估计;(2)基于扰动视角训练并具有逐像素不确定性的NeRF模型;(3)对含噪声的单目深度与NeRF深度进行贝叶斯融合。我们从体渲染过程中推导NeRF的不确定性度量,通过迭代方式注入高频细节信息。同时,我们的单目先验保持了全局结构的一致性。在SUN RGB-D数据集的室内场景实验中,本方法在关键指标上均表现出优越性能。

0
下载
关闭预览

相关内容

面向现实世界的神经辐射场:综述
专知会员服务
18+阅读 · 2025年1月23日
神经辐射场加速算法综述
专知会员服务
22+阅读 · 2024年6月1日
【CVPR2023】学习神经双辐射场实时视图合成
专知会员服务
31+阅读 · 2023年4月23日
【博士论文】基于深度学习的单目场景深度估计方法研究
专知会员服务
74+阅读 · 2021年5月28日
Deep Image Prior:深度卷积网络先天就理解自然图像
极市平台
10+阅读 · 2017年12月5日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
14+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
Arxiv
0+阅读 · 1月26日
VIP会员
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
14+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员