Open access to publication, software and hardware is central to robotics: it lowers barriers to entry, supports reproducible science and accelerates reliable system development. However, openness also exacerbates the inherent dual-use risks associated with research and innovation in robotics. It lowers barriers for states and non-state actors to develop and deploy robotics systems for military use and harmful purposes. Compared to other fields of engineering where dual-use risks are present - e.g., those that underlie the development of weapons of mass destruction (chemical, biological, radiological, and nuclear weapons) and even the field of AI, robotics offers no specific regulation and little guidance as to how research and innovation may be conducted and disseminated responsibly. While other fields can be used for guidance, robotics has its own needs and specificities which have to be taken into account. The robotics community should therefore work toward its own set of sector-specific guidance and possibly regulation. To that end, we propose a roadmap focusing on four practices: a) education in responsible robotics; b) incentivizing risk assessment; c) moderating the diffusion of high-risk material; and d) developing red lines.


翻译:开放获取出版物、软件和硬件是机器人技术的核心:它降低了准入门槛,支持可重复的科学,并加速了可靠系统的开发。然而,开放性也加剧了与机器人研究和创新相关的固有双重用途风险。它降低了国家和非国家行为者开发和部署机器人系统用于军事用途和有害目的的门槛。与其他存在双重用途风险的工程领域相比——例如,那些支撑大规模杀伤性武器(化学、生物、放射性和核武器)发展的领域,甚至人工智能领域,机器人技术缺乏具体的监管,关于如何负责任地进行和传播研究与创新的指导也很少。虽然可以借鉴其他领域的指导,但机器人技术有其自身的需求和特殊性,必须加以考虑。因此,机器人技术界应致力于制定一套针对本领域的专门指导方针,并可能包括监管。为此,我们提出了一个路线图,重点关注四项实践:a) 负责任机器人技术教育;b) 激励风险评估;c) 管控高风险材料的传播;以及 d) 制定红线。

0
下载
关闭预览

相关内容

机器人技术研究的是「机器人的设计、制造、运作和应用,以及控制它们的计算机系统、传感反馈和信息处理」 。 机器人可以分成两大类:固定机器人和移动机器人。固定机器人通常被用于工业生产(比如用于装配线)。常见的移动机器人应用有货运机器人、空中机器人和自动载具。机器人需要不同部件和系统的协作才能实现最优的作业。其中在硬件上包含传感器、反应器和控制器;另外还有能够实现感知能力的软件,比如定位、地图测绘和目标识别。之前章节中提及的技术都可以在机器人上得到应用和集成,这也是人工智能领域最早的终极目标之一。
人工智能与国家安全:变革性影响和新出现的挑战
专知会员服务
22+阅读 · 2025年1月12日
人形机器人深度:产业化渐行渐近,未来前景广阔
专知会员服务
39+阅读 · 2024年7月17日
《中美俄大国军用机器人》
专知会员服务
68+阅读 · 2024年6月20日
新兴技术与军用机器人技术的未来
专知会员服务
37+阅读 · 2024年6月11日
《创新武器化?绘制欧盟人工智能安全与防务地图》
专知会员服务
36+阅读 · 2024年5月21日
人工智能、模块化开放系统架构和未来无人战争
专知会员服务
83+阅读 · 2024年4月4日
《结合机器人行为以实现安全、智能的执行》
专知会员服务
16+阅读 · 2023年7月4日
人形机器人行业深度:具身智能,迈向广阔蓝海市场
专知会员服务
51+阅读 · 2023年7月2日
人工智能和军备控制,80页pdf
专知
15+阅读 · 2022年11月2日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
国家自然科学基金
14+阅读 · 2016年12月31日
国家自然科学基金
50+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
VIP会员
相关基金
国家自然科学基金
14+阅读 · 2016年12月31日
国家自然科学基金
50+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员