Skills are a key enabling component of agentic AI. While they enhance agents' capabilities, they also introduce new attack surfaces. In this work, we investigate one such attack surface by demonstrating dynamic malicious skills. By embedding malicious instructions in natural-language documentation (e.g., SKILL.md), an attacker can induce an agent to dynamically inject malicious logic into an otherwise benign skill during execution. We evaluate this attack across agentic frameworks such as OpenHands and Claude Code, showing that dynamic malicious skills can successfully introduce a range of malicious behaviors at runtime with non-trivial success rates. To mitigate this vulnerability, we propose a system-level defense that prevents dynamic modification of skills using operating system kernel-enforced read-only mounts. Our evaluation demonstrates that this defense effectively blocks dynamic malicious skills while preserving the functionality of benign skills.


翻译:技能是Agentic AI的关键赋能组件。虽然它们增强了智能体的能力,但也引入了新的攻击面。在本研究中,我们通过展示动态恶意技能来探究其中一种攻击面。攻击者通过将恶意指令嵌入自然语言文档(例如SKILL.md),可诱导智能体在运行时将恶意逻辑动态注入原本良性的技能中。我们在OpenHands和Claude Code等Agentic框架上评估了该攻击,表明动态恶意技能能够以非平凡的成功率在运行时引入一系列恶意行为。为缓解此漏洞,我们提出了一种系统级防御方案,利用操作系统内核强制开启的只读挂载来阻止技能的动态修改。评估结果表明,该防御有效阻断了动态恶意技能,同时保持了良性技能的功能完整性。

0
下载
关闭预览

相关内容

伯克利最新《智能体 AI (Agentic AI)》课程
专知会员服务
50+阅读 · 3月1日
智能体工程(Agent Engineering)
专知会员服务
40+阅读 · 2025年12月31日
Agent AI:多模态交互的新地平线
专知会员服务
22+阅读 · 2025年5月26日
Agent视域下的人工智能赋能作战系统
专知会员服务
60+阅读 · 2024年12月15日
AI Agent:基于大模型的自主智能体
专知会员服务
253+阅读 · 2023年9月9日
深度学习赋能的恶意代码攻防研究进展
专知会员服务
31+阅读 · 2021年4月11日
【强化学习】强化学习+深度学习=人工智能
产业智能官
55+阅读 · 2017年8月11日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Arxiv
0+阅读 · 6月15日
VIP会员
最新内容
反制无人机:乌克兰提供的五点启示
专知会员服务
4+阅读 · 9月23日
《各指挥层级均亟需红队能力》报告
专知会员服务
6+阅读 · 9月23日
《航电任务系统框架(FAMOS)》50页报告
专知会员服务
4+阅读 · 9月22日
《对抗行动中的人工智能与自主性》智库报告
专知会员服务
7+阅读 · 9月22日
《从数据到胜利:战争中的分析优势之争》
专知会员服务
10+阅读 · 9月22日
战争不仅需要机器人:人类仍不可或缺
专知会员服务
5+阅读 · 9月21日
《描绘美国防部创新基础设施的未来蓝图》100页
专知会员服务
10+阅读 · 9月21日
相关VIP内容
伯克利最新《智能体 AI (Agentic AI)》课程
专知会员服务
50+阅读 · 3月1日
智能体工程(Agent Engineering)
专知会员服务
40+阅读 · 2025年12月31日
Agent AI:多模态交互的新地平线
专知会员服务
22+阅读 · 2025年5月26日
Agent视域下的人工智能赋能作战系统
专知会员服务
60+阅读 · 2024年12月15日
AI Agent:基于大模型的自主智能体
专知会员服务
253+阅读 · 2023年9月9日
深度学习赋能的恶意代码攻防研究进展
专知会员服务
31+阅读 · 2021年4月11日
相关基金
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员