This study presents the first evaluation of general-purpose imitation learning for surgeon-robot collaborative assistance in open surgery, targeting suture following: the grab-pull-release motion an assistant performs at every stitch. We collect 160 teleoperated demonstrations (32,374 frames) on an open-source robot arm, benchmark four architecturally diverse imitation learning policies (ACT, Diffusion Policy, SmolVLA, $π_0$) across 28 trained models evaluated in 32 configurations along three clinically motivated dimensions: dataset size, camera viewpoint, and background variation. Our results demonstrate that under ideal conditions, the four policies achieve $50$-$75\%$ task success, with depth error as the dominant failure mode across all architectures. Among all policies, $π_0$ achieves the strongest results with a pretrained vision-language backbone, demonstrating superior data efficiency, greater robustness to background variation, and smoother trajectories compatible with surgical workflow. When deployed in a surgeon-robot suturing trial, $π_0$ yields a $92\%$ stitch completion rate. These findings establish collaborative robotic assistance in open surgery as a feasible target for imitation learning and highlight depth perception and end-effector design as key priorities for clinical translation.


翻译:本研究首次评估了通用模仿学习在开放性手术中用于外科医生-机器人协作辅助的表现,聚焦于缝线跟随任务:即助手在每针操作中执行的抓取-牵引-释放动作。我们基于开源机器人臂收集了160次遥操作演示(共32,374帧),对四种架构差异化的模仿学习策略(ACT、扩散策略、SmolVLA、$π_0$)进行了基准测试,涵盖28个训练模型,并在32种配置下沿三个临床相关维度(数据集规模、相机视角、背景变化)进行评估。结果表明,在理想条件下,四种策略的任务成功率为$50$-$75\%$,深度误差是所有架构中的主要失败模式。在所有策略中,$π_0$凭借其预训练的视觉-语言骨干网络取得了最佳结果,展现出更高的数据效率、更强的背景变化鲁棒性以及与手术工作流程兼容的更平滑轨迹。在外科医生-机器人缝合试验部署中,$π_0$实现了$92\%$的缝针完成率。这些发现表明,开放式手术中的协作式机器人辅助是模仿学习的可行目标,同时强调深度感知和末端执行器设计是临床转化的关键优先方向。

0
下载
关闭预览

相关内容

机器人中的深度生成模型:多模态演示学习的综述
专知会员服务
40+阅读 · 2024年8月9日
专知会员服务
48+阅读 · 2021年7月2日
【AI与医学】多模态机器学习精准医疗健康
推荐|机器学习中的模型评价、模型选择和算法选择!
全球人工智能
10+阅读 · 2018年2月5日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
VIP会员
最新内容
ICML 2026 | CFPO:用反事实策略优化提升多模态推理
专知会员服务
1+阅读 · 今天14:45
综述 | 世界动作模型:少做梦,多行动
专知会员服务
1+阅读 · 今天14:43
美以伊冲突:无人机与人工智能的运用
专知会员服务
3+阅读 · 今天14:31
《特种部队在透明战场中的生存力》最新报告
专知会员服务
2+阅读 · 今天14:11
《人工智能生成的零日漏洞:对未来作战的影响》
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
8+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
相关VIP内容
机器人中的深度生成模型:多模态演示学习的综述
专知会员服务
40+阅读 · 2024年8月9日
专知会员服务
48+阅读 · 2021年7月2日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员