Human-robot collaboration has been studied primarily in dyadic or sequential settings. However, real homes require multiadic collaboration, where multiple humans and robots share a workspace, acting concurrently on interleaved subtasks with tight spatial and temporal coupling. This regime remains underexplored because close-proximity interaction between humans, robots, and objects creates persistent occlusion and rapid state changes, making reliable real-time 3D tracking the central bottleneck. No existing platform provides the real-time, occlusion-robust, room-scale perception needed to make this regime experimentally tractable. We present OmniRobotHome, the first room-scale residential platform that unifies wide-area real-time 3D human and object perception with coordinated multi-robot actuation in a shared world frame. The system instruments a natural home environment with 48 hardware-synchronized RGB cameras for markerless, occlusion-robust tracking of multiple humans and objects, temporally aligned with two Franka arms that act on live scene state. Continuous capture within this consistent frame further supports long-horizon human behavior modeling from accumulated trajectories. The platform makes the multiadic collaboration regime experimentally tractable. We focus on two central problems: safety in shared human-robot environments and human-anticipatory robotic assistance, and show that real-time perception and accumulated behavior memory each yield measurable gains in both.


翻译:人机协作研究主要在二元或序列化场景中开展。然而真实家庭环境需要多对多协作——多个人类与多台机器人在共享工作空间中同时操作,以紧密的空间与时间耦合方式处理交错子任务。这一模式尚未得到充分探索,因为人类、机器人与物体之间的近距离交互会产生持续遮挡与快速状态变化,使得可靠的实时三维追踪成为核心瓶颈。现有平台均无法提供使该模式具备实验可行性的实时、抗遮挡、房间级感知能力。我们提出OmniRobotHome——首个在共享世界坐标系下统一大范围实时三维人体与物体感知及多机器人协调驱动的房间级住宅实验平台。该系统在自然家居环境中部署48台硬件同步RGB相机,实现无标记、抗遮挡的多人与多物体追踪,并与两台Franka机械臂基于实时场景状态进行时间对齐操作。在此一致坐标系下的连续数据采集,进一步支持从累积轨迹中进行长时程人类行为建模。该平台使多对多协作模式具备实验可行性。我们聚焦两大核心问题:人机共享空间的安全性与人类预判型机器人辅助,实验表明实时感知与累积行为记忆均在此两项任务中带来可量化的性能提升。

0
下载
关闭预览

相关内容

《多域人机交互研究》95页
专知会员服务
38+阅读 · 2025年6月2日
《基于图计算的多机器人协同研究》最新139页
专知会员服务
38+阅读 · 2025年5月28日
《基于图计算的多机器人协调与协作​​》139页
专知会员服务
42+阅读 · 2025年4月19日
【ETHZ博士论文】与多机器人系统的直观与高效互动
专知会员服务
19+阅读 · 2024年11月29日
面向虚实融合的人机交互
专知会员服务
72+阅读 · 2023年6月25日
多模态人机交互综述
专知会员服务
150+阅读 · 2022年7月3日
专访俞栋:多模态是迈向通用人工智能的重要方向
AI科技评论
27+阅读 · 2019年9月9日
国外有人/无人平台协同作战概述
无人机
123+阅读 · 2019年5月28日
CCCF专题:史元春 | 自然人机交互
中国计算机学会
25+阅读 · 2018年5月18日
最新人机对话系统简略综述
专知
26+阅读 · 2018年3月10日
CCCF专栏文章:人机共融智能
中国计算机学会
15+阅读 · 2017年12月21日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
24+阅读 · 2011年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
VIP会员
最新内容
21世纪的无人机战争
专知会员服务
1+阅读 · 54分钟前
《量子技术的军事任务技术适配与利用》
专知会员服务
1+阅读 · 今天13:51
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
《多域人机交互研究》95页
专知会员服务
38+阅读 · 2025年6月2日
《基于图计算的多机器人协同研究》最新139页
专知会员服务
38+阅读 · 2025年5月28日
《基于图计算的多机器人协调与协作​​》139页
专知会员服务
42+阅读 · 2025年4月19日
【ETHZ博士论文】与多机器人系统的直观与高效互动
专知会员服务
19+阅读 · 2024年11月29日
面向虚实融合的人机交互
专知会员服务
72+阅读 · 2023年6月25日
多模态人机交互综述
专知会员服务
150+阅读 · 2022年7月3日
相关基金
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
24+阅读 · 2011年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员