Visual Language Navigation is a task that challenges robots to navigate in realistic environments based on natural language instructions. While previous research has largely focused on static settings, real-world navigation must often contend with dynamic human obstacles. Hence, we propose an extension to the task, termed Adaptive Visual Language Navigation (AdaVLN), which seeks to narrow this gap. AdaVLN requires robots to navigate complex 3D indoor environments populated with dynamically moving human obstacles, adding a layer of complexity to navigation tasks that mimic the real-world. To support exploration of this task, we also present AdaVLN simulator and AdaR2R datasets. The AdaVLN simulator enables easy inclusion of fully animated human models directly into common datasets like Matterport3D. We also introduce a "freeze-time" mechanism for both the navigation task and simulator, which pauses world state updates during agent inference, enabling fair comparisons and experimental reproducibility across different hardware. We evaluate several baseline models on this task, analyze the unique challenges introduced by AdaVLN, and demonstrate its potential to bridge the sim-to-real gap in VLN research.


翻译:视觉语言导航是一项挑战机器人基于自然语言指令在真实环境中导航的任务。尽管先前研究主要集中于静态场景,但现实世界的导航常需应对动态的人类障碍。因此,我们提出了一项扩展任务——自适应视觉语言导航,旨在缩小这一差距。AdaVLN要求机器人在充满动态移动人类障碍的复杂三维室内环境中进行导航,为模拟现实世界的导航任务增加了复杂性层次。为支持该任务的探索,我们还提出了AdaVLN仿真器与AdaR2R数据集。AdaVLN仿真器能够将完全动画化的人体模型直接集成至Matterport3D等通用数据集中。我们同时为导航任务和仿真器引入了“冻结时间”机制,该机制可在智能体推理期间暂停世界状态更新,从而确保不同硬件间的公平比较与实验可复现性。我们在此任务上评估了若干基线模型,分析了AdaVLN带来的独特挑战,并论证了其在弥合视觉语言导航研究仿真与现实差距方面的潜力。

0
下载
关闭预览

相关内容

DeepSeek模型综述:V1 V2 V3 R1-Zero
专知会员服务
116+阅读 · 2025年2月11日
图机器学习 2.2-2.4 Properties of Networks, Random Graph
图与推荐
10+阅读 · 2020年3月28日
DeepMind:用PopArt进行多任务深度强化学习
论智
29+阅读 · 2018年9月14日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
VIP会员
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员