Achieving autonomous robotic dexterous manipulation requires precise, human-like action sequences at scale. As a scalable supplement to costly teleoperation data, extracting trajectories with both visual fidelity and physical plausibility from monocular videos represents a promising frontier in embodied AI. To this end, we introduce V2P-Manip, an efficient framework designed to learn dexterous manipulation policies directly from human demonstration videos. We establish an efficient, integrated pipeline encompassing 3D asset acquisition, trajectory estimation, and dexterous policy learning. To bridge the gap between visual perception and physical constraints, we introduce a two-stage refinement process to enforce spatial alignment and physical consistency. Evaluations on the TACO and OakInk benchmarks demonstrate that our approach significantly outperforms previous methods in pose accuracy, adaptability to unstructured environments, and training efficiency. Ultimately, experimental results confirm an average success rate of over 75% across multiple synthetic manipulation tasks and validate the adaptability of the extracted manipulation priors across diverse dexterous hand embodiments.


翻译:实现自主机器人灵巧操作需要大规模、精准且类人的动作序列。作为昂贵遥操作数据的可扩展补充方案,从单目视频中提取兼具视觉保真度和物理合理性的轨迹,是具身智能领域的前沿方向。为此,我们提出V2P-Manip——一个直接从人类演示视频中学习灵巧操作策略的高效框架。我们构建了涵盖三维资产获取、轨迹估计和灵巧策略学习的集成化高效流水线。为弥合视觉感知与物理约束之间的鸿沟,我们引入两阶段精化流程以强制空间对齐与物理一致性。在TACO和OakInk基准上的评估表明,我们的方法在姿态精度、非结构化环境适应性及训练效率方面显著优于现有方法。最终,实验验证了该方法在多个合成操作任务中平均成功率超过75%,并证明了所提取操作先验在不同灵巧手构型间的可迁移性。

0
下载
关闭预览

相关内容

来自互联网视频的通用机器人学习:综述
专知会员服务
28+阅读 · 2024年5月4日
【CMU博士论文】强化学习的泛化灵巧性,182页pdf
专知会员服务
42+阅读 · 2023年11月4日
AutoGPT太火了,无需人类插手自主完成任务,GitHub2.7万星
专知会员服务
44+阅读 · 2023年4月14日
Github库分享:超全的PyTorch学习资源汇总
专知
25+阅读 · 2019年5月9日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
8+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
10+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
6+阅读 · 6月17日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员