Robotic and embodied-AI systems have the potential to improve accessibility and quality of care in clinical settings, but their deployment in close physical contact with vulnerable patients introduces significant safety risks. This paper presents a hazard management methodology for MammoBot, an assistive robotic system designed to support patients during X-ray mammography. To ensure safety from early development stages, we combine stakeholder-guided process modelling with Software Hazard Analysis and Resolution in Design (SHARD) and System-Theoretic Process Analysis (STPA). The robot-assisted workflow is defined collaboratively with clinicians, roboticists, and patient representatives to capture key human-robot interactions. SHARD is applied to identify technical and procedural deviations, while STPA is used to analyse unsafe control actions arising from user interaction. The results show that many hazards arise not from component failures, but from timing mismatches, premature actions, and misinterpretation of system state. These hazards are translated into refined and additional safety requirements that constrain system behaviour and reduce reliance on correct human timing or interpretation alone. The work demonstrates a structured and traceable approach to safety-driven design with potential applicability to assistive robotic systems in clinical environments.


翻译:机器人具身AI系统有潜力改善临床环境的可及性和护理质量,但与脆弱患者的密切物理接触会引入重大安全风险。本文提出了一种针对MammoBot的危害管理方法,这是一个设计用于在X射线乳腺摄影过程中为患者提供支持的辅助机器人系统。为确保从早期开发阶段便实现安全性,我们将利益相关者引导的流程建模与软件危害分析与解决设计(SHARD)及系统理论过程分析(STPA)相结合。与临床医生、机器人专家和患者代表协作定义了机器人辅助工作流程,以捕获关键的人机交互。应用SHARD识别技术和程序偏差,同时使用STPA分析由用户交互引起的不安全控制行为。结果表明,许多危害并非源于组件故障,而是来自时间错配、过早动作以及对系统状态的误解。这些危害被转化为改进的附加安全要求,以约束系统行为并减少对人类正确时机判断或解释的依赖。该工作展示了一种结构化且可追溯的安全驱动设计方法,对临床环境中的辅助机器人系统具有潜在适用性。

0
下载
关闭预览

相关内容

AI在医疗中的安全挑战
专知会员服务
19+阅读 · 2024年10月5日
利用机器学习识别危险的军事系统
专知会员服务
32+阅读 · 2024年5月10日
可信赖人工智能在医学影像应用
专知会员服务
43+阅读 · 2022年5月7日
【机器人】机器人PID控制
产业智能官
10+阅读 · 2018年11月25日
人工智能与机器学习技术在医疗保健行业中的应用
深度学习与NLP
12+阅读 · 2018年3月25日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
VIP会员
最新内容
博士论文 | 面向大模型推理的内存高效算法
专知会员服务
0+阅读 · 今天15:20
美空军新型反无人机部队初探
专知会员服务
4+阅读 · 今天5:45
《防空交战流程的概率建模研究》
专知会员服务
6+阅读 · 今天5:04
ICML 2026 教程 | 数值优化理论还重要吗?
专知会员服务
5+阅读 · 7月26日
ICM 2026 | 陶哲轩:人工智能时代的数学
专知会员服务
9+阅读 · 7月26日
《反无人机交战场景下的战斗归零研究》
专知会员服务
7+阅读 · 7月26日
博士论文 | 用代码结构感知方法推进代码大模型
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员