OpenClaw-like agents offer substantial productivity benefits, yet they are insecure by default because they combine untrusted inputs, autonomous action, extensibility, and privileged system access within a single execution loop. We use OpenClaw as an exemplar of a broader class of agents that interact with interfaces, manipulate files, invoke tools, and install extensions in real operating environments. Consequently, their security should be treated as a software engineering problem rather than as a product-specific concern. To address these architectural vulnerabilities, we propose a blueprint for defensible design. We present a risk taxonomy, secure engineering principles, and a practical research agenda to institutionalize safety in agent construction. Our goal is to transition the community focus from isolated vulnerability patching toward systematic defensive engineering and robust deployment practices.


翻译:类OpenClaw智能体虽能显著提升生产效率,但其默认配置存在安全隐患,因其在单一执行循环中同时整合了不可信输入、自主行为、可扩展性及特权系统访问能力。本文以OpenClaw为例,探讨了在真实操作环境中与接口交互、操作文件、调用工具及安装扩展的一类广义智能体。因此,其安全性应被视为软件工程问题,而非特定产品的独立考量。为应对这些架构性漏洞,我们提出可防御式设计蓝图,包括风险分类体系、安全工程原则及旨在将安全性内化为智能体构建标准的研究路线图。我们的目标是将社区关注点从零散漏洞修补转向系统性防御工程与鲁棒部署实践。

0
下载
关闭预览

相关内容

AI原生组织:OpenClaw推动组织形态重塑,47页pdf
专知会员服务
0+阅读 · 今天13:39
通用智能体评估的逻辑架构
专知会员服务
20+阅读 · 2月28日
智能体工程(Agent Engineering)
专知会员服务
33+阅读 · 2025年12月31日
智能体安全综述:应用、威胁与防御
专知会员服务
41+阅读 · 2025年10月12日
AI智能体基础设施
专知会员服务
41+阅读 · 2025年7月12日
针对自动驾驶智能模型的攻击与防御
专知会员服务
19+阅读 · 2024年6月25日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
OpenNRE 2.0:可一键运行的开源关系抽取工具包
PaperWeekly
22+阅读 · 2019年10月30日
浅谈群体智能——新一代AI的重要方向
中国科学院自动化研究所
44+阅读 · 2019年10月16日
概述自动机器学习(AutoML)
人工智能学家
19+阅读 · 2019年8月11日
面向人工智能的计算机体系结构
计算机研究与发展
14+阅读 · 2019年6月6日
智能时代如何构建金融反欺诈体系?
数据猿
12+阅读 · 2018年3月26日
CCCF专栏文章:人机共融智能
中国计算机学会
15+阅读 · 2017年12月21日
资源 | 清华大学开源OpenKE:知识表示学习平台
机器之心
10+阅读 · 2017年11月4日
平安云监控 || 当open-falcon遇上kubernetes
运维帮
10+阅读 · 2017年7月4日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关VIP内容
AI原生组织:OpenClaw推动组织形态重塑,47页pdf
专知会员服务
0+阅读 · 今天13:39
通用智能体评估的逻辑架构
专知会员服务
20+阅读 · 2月28日
智能体工程(Agent Engineering)
专知会员服务
33+阅读 · 2025年12月31日
智能体安全综述:应用、威胁与防御
专知会员服务
41+阅读 · 2025年10月12日
AI智能体基础设施
专知会员服务
41+阅读 · 2025年7月12日
针对自动驾驶智能模型的攻击与防御
专知会员服务
19+阅读 · 2024年6月25日
相关资讯
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
OpenNRE 2.0:可一键运行的开源关系抽取工具包
PaperWeekly
22+阅读 · 2019年10月30日
浅谈群体智能——新一代AI的重要方向
中国科学院自动化研究所
44+阅读 · 2019年10月16日
概述自动机器学习(AutoML)
人工智能学家
19+阅读 · 2019年8月11日
面向人工智能的计算机体系结构
计算机研究与发展
14+阅读 · 2019年6月6日
智能时代如何构建金融反欺诈体系?
数据猿
12+阅读 · 2018年3月26日
CCCF专栏文章:人机共融智能
中国计算机学会
15+阅读 · 2017年12月21日
资源 | 清华大学开源OpenKE:知识表示学习平台
机器之心
10+阅读 · 2017年11月4日
平安云监控 || 当open-falcon遇上kubernetes
运维帮
10+阅读 · 2017年7月4日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员