Is robot cybersecurity broken by AI? Consumer robots -- from autonomous lawnmowers to powered exoskeletons and window cleaners -- are rapidly entering homes and workplaces, yet their security remains rooted in assumptions of specialized attacker expertise. This paper presents evidence that Generative AI has fundamentally disrupted robot cybersecurity: what historically required deep knowledge of ROS, ROS 2, and robotic system internals can now be automated by anyone with access to state-of-the-art GenAI tools spearheaded by the open source CAI (Cybersecurity AI). We provide empirical evidence through three case studies: (1) compromising a Hookii autonomous lawnmower robot, uncovering fleet-wide vulnerabilities and data protection violations affecting 267+ connected devices, (2) exploiting a Hypershell powered exoskeleton, demonstrating safety-critical motor control weaknesses and credential exposure including access to over 3,300 internal support emails, and (3) breaching a HOBOT S7 Pro window cleaning robot, achieving unauthenticated BLE command injection and OTA firmware exploitation. Across these platforms, CAI discovered in an automated manner 38 vulnerabilities that would have previously required months of specialized security research. Our findings reveal a stark asymmetry: while offensive capabilities have been democratized through AI, defensive measures often remain lagging behind. We argue that traditional defense-in-depth architectures like the Robot Immune System (RIS) must evolve toward GenAI-native defensive agents capable of matching the speed and adaptability of AI-powered attacks.


翻译:机器人网络安全是否已被人工智能攻破?消费级机器人——从自主割草机到动力外骨骼和擦窗机器人——正迅速进入家庭和工作场所,但其安全性仍建立在攻击者需具备专业知识的假设之上。本文通过实证表明,生成式人工智能已从根本上颠覆了机器人网络安全:历史上需要精通ROS、ROS 2及机器人系统内部原理的攻击手段,如今任何能接触尖端生成式AI工具(以开源CAI网络安全人工智能为首)的用户均可自动化实现。我们通过三个案例研究提供实证证据:(1) 入侵Hookii自主割草机器人,发现影响267台以上联网设备的全系列漏洞及数据保护违规问题;(2) 利用Hypershell动力外骨骼,揭示涉及安全关键电机控制的缺陷及凭证泄露风险,包括可访问超3300封内部支持邮件;(3) 攻破HOBOT S7 Pro擦窗机器人,实现未经认证的BLE命令注入及OTA固件利用。在这些平台上,CAI以自动化方式发现了38个以往需要数月专业安全研究才能发现的漏洞。我们的研究揭示了显著的不对称性:虽然攻击能力通过AI实现了民主化,但防御措施往往滞后。我们认为,传统纵深防御架构(如机器人免疫系统RIS)必须向生成式AI原生防御代理演进,以匹配AI驱动攻击的速度与适应性。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
人工智能与机器学习对组织网络安全的影响研究 | 273页
专知会员服务
18+阅读 · 2025年10月27日
【新书】利用生成式人工智能进行网络防御策略
专知会员服务
31+阅读 · 2024年10月18日
【2023新书】人工智能在网络安全中的应用,215页pdf
专知会员服务
104+阅读 · 2023年5月5日
《人工智能网络攻击带来的安全威胁》30页报告
专知会员服务
79+阅读 · 2023年5月4日
专知会员服务
46+阅读 · 2021年6月25日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
《新兴技术武器化及其对全球风险的影响》
专知会员服务
6+阅读 · 今天4:27
《帕兰泰尔平台介绍:信息分析平台》
专知会员服务
15+阅读 · 今天4:20
智能体化世界建模:基础、能力、规律及展望
专知会员服务
9+阅读 · 4月28日
美海警海上态势感知无人系统
专知会员服务
6+阅读 · 4月28日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员