We present a Real-Time Operator Takeover (RTOT) paradigm that enables operators to seamlessly take control of a live visuomotor diffusion policy, guiding the system back to desirable states or providing targeted corrective demonstrations. Within this framework, the operator can intervene to correct the robot's motion, after which control is smoothly returned to the policy until further intervention is needed. We evaluate the takeover framework on three tasks spanning rigid, deformable, and granular objects, and show that incorporating targeted takeover demonstrations significantly improves policy performance compared with training on an equivalent number of initial demonstrations alone. Additionally, we provide an in-depth analysis of the Mahalanobis distance as a signal for automatically identifying undesirable or out-of-distribution states during execution. Supporting materials, including videos of the initial and takeover demonstrations and all experiments, are available on the project website: https://operator-takeover.github.io/


翻译:我们提出了一种实时操作员接管范式,使操作员能够无缝控制正在运行的视觉运动扩散策略,引导系统回到理想状态或提供有针对性的纠正示范。在此框架下,操作员可介入纠正机器人运动,随后控制权平稳交还给策略,直至需要进一步干预。我们在涉及刚体、变形体和颗粒物体的三项任务上评估了该接管框架,结果表明,与仅使用等量初始示范进行训练相比,融入有针对性的接管示范能显著提升策略性能。此外,我们深入分析了马哈拉诺比斯距离作为自动识别执行过程中不良或分布外状态的信号。支持材料(包括初始示范和接管示范的视频以及所有实验)可在项目网站上获取:https://operator-takeover.github.io/

0
下载
关闭预览

相关内容

基于思维模拟的虚拟指挥员作战决策模型
专知会员服务
47+阅读 · 2025年3月9日
《大型军旗演习中的实时虚拟互操作性》
专知会员服务
42+阅读 · 2024年12月16日
虚拟人运动控制策略学习方法的研究进展与展望
专知会员服务
19+阅读 · 2024年8月17日
将人工智能集成到指挥控制系统中
专知会员服务
83+阅读 · 2024年1月1日
MaskFusion: 多运动目标实时识别、跟踪和重建
计算机视觉life
11+阅读 · 2019年4月20日
ETP:精确时序动作定位
极市平台
13+阅读 · 2018年5月25日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
VIP会员
最新内容
认知战与交战性质的改变:神经战略视角
专知会员服务
5+阅读 · 5月8日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员