This paper introduces the Generative Application Firewall (GAF), a new architectural layer for securing LLM applications. Existing defenses -- prompt filters, guardrails, and data-masking -- remain fragmented; GAF unifies them into a single enforcement point, much like a WAF coordinates defenses for web traffic, while also covering autonomous agents and their tool interactions.


翻译:本文介绍了生成式应用防火墙(GAF),一种用于保护大语言模型(LLM)应用的新型架构层。现有的防御措施——提示过滤器、防护栏和数据掩码——仍然处于碎片化状态;GAF将它们统一到一个单一的强制执行点,类似于网络应用防火墙(WAF)协调针对网络流量的防御,同时它还覆盖了自主智能体及其工具交互。

0
下载
关闭预览

相关内容

【新书】利用生成式人工智能进行网络防御策略
专知会员服务
33+阅读 · 2024年10月18日
生成式人工智能大型语言模型的安全性:概述
专知会员服务
36+阅读 · 2024年7月30日
CFGAN:基于生成对抗网络的协同过滤框架
最新《生成式对抗网络GAN进展》论文
专知
95+阅读 · 2019年4月5日
介绍WAF以及过滤机制
黑白之道
22+阅读 · 2019年2月5日
CCCF专栏 | 生成式对抗网络的研究进展与展望
中国计算机学会
13+阅读 · 2017年11月17日
在TensorFlow中对比两大生成模型:VAE与GAN
机器之心
12+阅读 · 2017年10月23日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
“史诗怒火”行动:现代多域作战的重要节点
专知会员服务
3+阅读 · 今天5:05
《下一代无线网络中的多无人机通信资源管理》
专知会员服务
3+阅读 · 今天5:00
《同步多无人机系统中的故障与通信》
专知会员服务
4+阅读 · 7月29日
面向国防作战的最佳自主与蜂群无人机技术
专知会员服务
7+阅读 · 7月28日
相关VIP内容
【新书】利用生成式人工智能进行网络防御策略
专知会员服务
33+阅读 · 2024年10月18日
生成式人工智能大型语言模型的安全性:概述
专知会员服务
36+阅读 · 2024年7月30日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员