Navigation agents powered by large language models (LLMs) convert natural language instructions into executable plans and actions. Compared to text-based applications, their security is far more critical: a successful prompt injection attack does not just alter outputs but can directly misguide physical navigation, leading to unsafe routes, mission failure, or real-world harm. Despite this high-stakes setting, the vulnerability of navigation agents to prompt injection remains largely unexplored. In this paper, we propose PINA, an adaptive prompt optimization framework tailored to navigation agents under black-box, long-context, and action-executable constraints. Experiments on indoor and outdoor navigation agents show that PINA achieves high attack success rates with an average ASR of 87.5%, surpasses all baselines, and remains robust under ablation and adaptive-attack conditions. This work provides the first systematic investigation of prompt injection attacks in navigation and highlights their urgent security implications for embodied LLM agents.


翻译:基于大语言模型(LLM)的导航智能体将自然语言指令转换为可执行的规划与动作。与基于文本的应用相比,其安全性更为关键:成功的提示注入攻击不仅会篡改输出,更可直接误导物理导航,导致不安全路径、任务失败乃至现实危害。尽管风险极高,导航智能体对提示注入的脆弱性迄今尚未得到充分探究。本文提出PINA——一种针对黑盒、长上下文与动作可执行约束下的导航智能体设计的自适应提示优化框架。在室内外导航智能体上的实验表明,PINA实现了高达87.5%的平均攻击成功率,超越所有基线方法,并在消融实验与自适应攻击条件下保持稳健性。本研究首次系统性地探索了导航领域的提示注入攻击,并揭示了其对具身LLM智能体迫切的安全威胁。

0
下载
关闭预览

相关内容

大语言模型用于军事用途是否安全?
专知会员服务
28+阅读 · 2025年2月7日
大语言模型中的提示隐私保护
专知会员服务
24+阅读 · 2024年7月24日
PlaNet 简介:用于强化学习的深度规划网络
谷歌开发者
13+阅读 · 2019年3月16日
Spooftooph - 用于欺骗或克隆蓝牙设备的自动工具
黑白之道
17+阅读 · 2019年2月27日
百度NLP模块使用手册--深度直击最新进展
InfoQ
20+阅读 · 2017年10月30日
国家自然科学基金
332+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
332+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员