3D reconstruction for Digital Twins often relies on LiDAR-based methods, which provide accurate geometry but lack the semantics and textures naturally captured by cameras. Traditional LiDAR-camera fusion approaches require complex calibration and still struggle with certain materials like glass, which are visible in images but poorly represented in point clouds. We propose a camera-only pipeline that reconstructs scenes using 3D Gaussian Splatting from multi-view images, extracts semantic material masks via vision models, converts Gaussian representations to mesh surfaces with projected material labels, and assigns physics-based material properties for accurate sensor simulation in modern graphics engines and simulators. This approach combines photorealistic reconstruction with physics-based material assignment, providing sensor simulation fidelity comparable to LiDAR-camera fusion while eliminating hardware complexity and calibration requirements. We validate our camera-only method using an internal dataset from an instrumented test vehicle, leveraging LiDAR as ground truth for reflectivity validation alongside image similarity metrics.


翻译:数字孪生中的三维重建通常依赖于基于激光雷达的方法,这类方法能提供精确的几何结构,但缺乏相机自然捕捉的语义信息和纹理。传统的激光雷达-相机融合方法需要复杂的标定,并且对于某些材料(如玻璃)的处理仍然存在困难——这些材料在图像中可见,但在点云中表征不佳。我们提出了一种仅使用相机的流程:该方法利用多视角图像通过三维高斯溅射进行场景重建,通过视觉模型提取语义材料掩码,将高斯表示转换为带有投影材料标签的网格表面,并为现代图形引擎和模拟器中的精确传感器仿真分配基于物理的材料属性。该方法将逼真的重建与基于物理的材料分配相结合,提供了与激光雷达-相机融合相媲美的传感器仿真保真度,同时消除了硬件复杂性和标定要求。我们使用来自一辆装备仪器的测试车辆的内部数据集验证了我们的纯相机方法,在利用图像相似度指标的同时,将激光雷达数据作为反射率验证的基准真值。

0
下载
关闭预览

相关内容

深度学习的多视角三维重建技术综述
专知会员服务
20+阅读 · 2025年6月7日
【CVPR2024】VastGaussian: 用于大型场景重建的巨大三维高斯
数字孪生如何塑造国防系统设计的未来
专知会员服务
40+阅读 · 2024年1月26日
深度学习背景下的图像三维重建技术进展综述
专知会员服务
38+阅读 · 2023年9月4日
数字孪生及其在飞行器领域应用
专知会员服务
94+阅读 · 2023年4月18日
基于视觉的三维重建关键技术研究综述
专知会员服务
166+阅读 · 2020年5月1日
重磅!数字孪生技术应用白皮书(2021)
专知
14+阅读 · 2021年12月8日
【数字孪生】面向智能制造的数字孪生
产业智能官
52+阅读 · 2020年5月10日
三维重建 3D reconstruction 有哪些实用算法?
极市平台
13+阅读 · 2020年2月23日
【数字孪生】数字孪生技术发展趋势与安全风险浅析
产业智能官
54+阅读 · 2019年8月28日
计算机视觉方向简介 | 三维重建技术概述
计算机视觉life
26+阅读 · 2019年6月13日
【数字孪生】超棒PPT解读Digital Twin十大领域应用!
产业智能官
103+阅读 · 2019年3月26日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关VIP内容
深度学习的多视角三维重建技术综述
专知会员服务
20+阅读 · 2025年6月7日
【CVPR2024】VastGaussian: 用于大型场景重建的巨大三维高斯
数字孪生如何塑造国防系统设计的未来
专知会员服务
40+阅读 · 2024年1月26日
深度学习背景下的图像三维重建技术进展综述
专知会员服务
38+阅读 · 2023年9月4日
数字孪生及其在飞行器领域应用
专知会员服务
94+阅读 · 2023年4月18日
基于视觉的三维重建关键技术研究综述
专知会员服务
166+阅读 · 2020年5月1日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员