Rendering diffuse global illumination in real-time is often approximated by pre-computing and storing irradiance in a 3D grid of probes. As long as most of the scene remains static, probes approximate irradiance for all surfaces immersed in the irradiance volume, including novel dynamic objects. This approach, however, suffers from aliasing artifacts and high memory consumption. We propose Neural Irradiance Volume (NIV), a neural-based technique that allows accurate real-time rendering of diffuse global illumination via a compact pre-computed model, overcoming the limitations of traditional probe-based methods, such as the expensive memory footprint, aliasing artifacts, and scene-specific heuristics. The key insight is that neural compression creates an adaptive and amortized representation of irradiance, circumventing the cubic scaling of grid-based methods. Our superior memory-scaling improves quality by at least 10x at the same memory budget, and enables a straightforward representation of higher-dimensional irradiance fields, allowing rendering of time-varying or dynamic effects without requiring additional computation at runtime. Unlike other neural rendering techniques, our method works within strict real-time constraints, providing fast inference (around 1 ms per frame on consumer GPUs at full HD resolution), reduced memory usage (1-5 MB for medium-sized scenes), and only requires a G-buffer as input, without expensive ray tracing or denoising.


翻译:实时渲染漫反射全局光照通常通过预计算辐照度并将其存储在三维探针网格中进行近似。只要场景大部分保持静态,探针即可近似计算辐照度体积内所有表面(包括新增动态物体)的辐照度。然而,该方法存在走样伪影和内存消耗过高的问题。我们提出神经辐照度体积(Neural Irradiance Volume, NIV),一种基于神经网络的渲染技术,通过紧凑的预计算模型实现精确的漫反射全局光照实时渲染,克服了传统基于探针方法的高内存占用、走样伪影和场景特定启发式算法等局限。其核心洞见在于,神经压缩创建了一种自适应且摊销的辐照度表示,规避了基于网格方法的立方级缩放。在相同内存预算下,我们优越的内存缩放特性将渲染质量提升至少10倍,并能直接表示高维辐照度场,从而无需在运行时进行额外计算即可渲染时变或动态效果。与其他神经渲染技术不同,我们的方法在严格的实时约束下运行,提供快速推理(消费级GPU上全高清分辨率下每帧约1毫秒)、降低内存使用(中等规模场景仅需1-5 MB),且仅需G-buffer作为输入,无需昂贵的光线追踪或去噪处理。

0
下载
关闭预览

相关内容

面向现实世界的神经辐射场:综述
专知会员服务
18+阅读 · 2025年1月23日
【ICML2024】神经 NeRF 压缩
专知会员服务
19+阅读 · 2024年6月15日
神经辐射场加速算法综述
专知会员服务
22+阅读 · 2024年6月1日
神经辐射场: 过去、现在和未来
专知会员服务
35+阅读 · 2023年4月25日
【CVPR2023】学习神经双辐射场实时视图合成
专知会员服务
31+阅读 · 2023年4月23日
专知会员服务
74+阅读 · 2021年5月28日
【泡泡图灵智库】基于CPU的实时6D物体姿态估计(arXiv)
泡泡机器人SLAM
12+阅读 · 2019年1月26日
SkeletonNet:完整的人体三维位姿重建方法
计算机视觉life
21+阅读 · 2019年1月21日
图神经网络最近这么火,不妨看看我们精选的这七篇
人工智能前沿讲习班
37+阅读 · 2018年12月10日
基于注意力机制的图卷积网络
科技创新与创业
74+阅读 · 2017年11月8日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 1月26日
VIP会员
相关VIP内容
面向现实世界的神经辐射场:综述
专知会员服务
18+阅读 · 2025年1月23日
【ICML2024】神经 NeRF 压缩
专知会员服务
19+阅读 · 2024年6月15日
神经辐射场加速算法综述
专知会员服务
22+阅读 · 2024年6月1日
神经辐射场: 过去、现在和未来
专知会员服务
35+阅读 · 2023年4月25日
【CVPR2023】学习神经双辐射场实时视图合成
专知会员服务
31+阅读 · 2023年4月23日
专知会员服务
74+阅读 · 2021年5月28日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员