Robots operating in the real world must plan through environments that deform, yield, and reconfigure under contact, requiring interaction-aware 3D representations that extend beyond static geometric occupancy. To address this, we introduce neural tactile fields, a novel 3D representation that maps spatial locations to the expected tactile response upon contact. Our model predicts these neural tactile fields from a single monocular RGB image -- the first method to do so. When integrated with off-the-shelf path planners, neural tactile fields enable robots to generate paths that avoid high-resistance objects while deliberately routing through low-resistance regions (e.g. foliage), rather than treating all occupied space as equally impassable. Empirically, our learning framework improves volumetric 3D reconstruction by $85.8\%$ and surface reconstruction by $26.7\%$ compared to state-of-the-art monocular 3D reconstruction methods (LRM and Direct3D).


翻译:在现实世界中运行的机器人必须规划通过那些在接触下会发生形变、屈服和重构的环境,这需要超越静态几何占据度的交互感知三维表征。为此,我们提出了神经触觉场,这是一种新颖的三维表征方法,它将空间位置映射到接触时预期的触觉响应。我们的模型能够从单张单目RGB图像预测这些神经触觉场——这是首个实现此功能的方法。当与现成的路径规划器结合使用时,神经触觉场使机器人能够生成避开高阻力物体、同时有意识地规划通过低阻力区域(例如植被)的路径,而不是将所有被占据的空间视为同等不可通行。实验表明,与最先进的单目三维重建方法(LRM和Direct3D)相比,我们的学习框架将体三维重建精度提升了$85.8\%$,表面重建精度提升了$26.7\%$。

0
下载
关闭预览

相关内容

机器人中的神经场:综述
专知会员服务
36+阅读 · 2024年11月1日
【ETHZ博士论文】神经场景表示用于三维重建和场景理解
专知会员服务
37+阅读 · 2024年3月15日
神经辐射场: 过去、现在和未来
专知会员服务
35+阅读 · 2023年4月25日
专知会员服务
74+阅读 · 2021年5月28日
三维重建 3D reconstruction 有哪些实用算法?
极市平台
13+阅读 · 2020年2月23日
计算机视觉方向简介 | 三维重建技术概述
计算机视觉life
26+阅读 · 2019年6月13日
计算机视觉方向简介 | 基于单目视觉的三维重建算法
计算机视觉life
32+阅读 · 2019年4月9日
SkeletonNet:完整的人体三维位姿重建方法
计算机视觉life
21+阅读 · 2019年1月21日
图神经网络最近这么火,不妨看看我们精选的这七篇
人工智能前沿讲习班
37+阅读 · 2018年12月10日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
VIP会员
相关资讯
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员