The handling and assembly of instruments during surgery imposes high cognitive demands on scrub nurses, particularly when instruments are unfamiliar. We present a supporting guidance system for surgical instrumentation that combines multi-camera 6D pose estimation with augmented reality in-situ visualization on a head-mounted display without the requirement for additional markers. Pose estimation and consecutive camera calibration are achieved through known objects. The 6D pose estimation network is trained purely on synthetic data, aiming for better generalizability and real-world applicability. The AR guidance displays tooltip localization cues and step-wise assembly animations. Via gaze-based selection and a foot pedal, users can switch between assembly steps in intraoperative use. In a technical evaluation, our approach outperforms state-of-art 6D pose estimation. A user study with 29 scrub nurses was conducted in a surgical simulation of knee arthroplasty, comparing the system against a paper manual. AR guidance significantly reduced the perceived workload compared. Objectively, AR guidance reduced task completion time by 21.3\% (4.76 minutes). Specifically, scrub nurses less experienced with the instrument set benefited when using the system. Error frequencies were comparable between conditions. Qualitative feedback highlighted improved process clarity, reduced information overload, and perceived independence. To summarize, our marker-free multi-camera AR guidance approach for surgical instruments can, subjectively and objectively, improve intraoperative instrumentation performance, particularly for untrained scrub nurses.


翻译:手术过程中器械的处理与装配对洗手护士提出了较高的认知负荷需求,尤其当器械不熟悉时更为显著。本文提出一种无需额外标记物的手术器械辅助引导系统,该系统将多摄像头6D位姿估计与头戴式显示器上的增强现实原位可视化技术相结合。位姿估计及后续相机标定通过已知物体实现。6D位姿估计网络完全基于合成数据进行训练,旨在提升泛化能力与实际应用效果。增强现实引导系统可显示器械尖端定位提示及分步装配动画。通过基于注视点的选择与脚踏开关,用户可在术中操作时切换装配步骤。技术评估表明,本方法优于现有6D位姿估计技术。在膝关节置换术模拟场景下,对29名洗手护士开展用户研究,将本系统与纸质手册进行对比。结果显示,增强现实引导显著降低了感知工作负荷。客观指标上,增强现实引导使任务完成时间缩短21.3%(4.76分钟)。尤其对不熟悉该器械组的洗手护士,使用本系统获益更明显。两组间错误频率无显著差异。定性反馈显示,增强现实引导提升了流程清晰度,减少了信息过载,并增强了操作自主性。综上所述,本研究所提出的无标记多摄像头增强现实器械引导系统,可在主观与客观层面改善术中器械操作表现,尤其适用于未受过培训的洗手护士。

0
下载
关闭预览

相关内容

机器视觉专题报告: AI+机器视觉,应用场景持续拓展
专知会员服务
61+阅读 · 2023年6月20日
《深度学习医学图像配准》综述进展
专知会员服务
49+阅读 · 2022年5月9日
专知会员服务
31+阅读 · 2021年9月23日
专知会员服务
50+阅读 · 2021年8月28日
专知会员服务
106+阅读 · 2020年11月27日
基于深度学习的医学图像半监督分割
CVer
14+阅读 · 2020年9月24日
专家报告|深度学习+图像多模态融合
中国图象图形学报
12+阅读 · 2019年10月23日
最全综述 | 医学图像处理
计算机视觉life
57+阅读 · 2019年6月15日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
7+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
8+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
6+阅读 · 6月17日
相关VIP内容
机器视觉专题报告: AI+机器视觉,应用场景持续拓展
专知会员服务
61+阅读 · 2023年6月20日
《深度学习医学图像配准》综述进展
专知会员服务
49+阅读 · 2022年5月9日
专知会员服务
31+阅读 · 2021年9月23日
专知会员服务
50+阅读 · 2021年8月28日
专知会员服务
106+阅读 · 2020年11月27日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员