“保障人工智能战场有效稳健性”(SABER)旨在建立一个典型的人工智能红队,配备必要的反人工智能技术、工具和技术能力,以对人工智能战场系统进行作战评估。SABER旨在为美国防部建立一个可操作的人工智能红队流程的可持续模型。

人工智能赋能战场系统的作战安全风险尚未明确

技术假说:采用最先进PACE方法及红队攻击工具、执行新型AI杀伤链战术技术规程(TTPs)的AI红队,其作战评估效能将显著优于未配备此类工具的团队

颠覆目标:建设具备持续整合并应用新兴反AI技术与工具的标杆型AI红队,构建可持续的作战级AI红队流程模型

方案设计:实施实验驱动的AI安全演练

SABER-OpX:通过系列高保真作战演习,对已部署环境中的AI赋能系统开展迭代式攻击评估(红队测试): 建立作战级AI红队流程“模型”

  • 评估“判别式AI范式”在战场级系统的扩展性

  • 聚焦融合AI/网电/电子战攻击向量以实现AI攻击效应

  • 制定作战导向型TTPs以构建并执行AI杀伤链

  • 持续将新兴技术/工具整合至AI红队

  • 评估已部署AI赋能系统的作战安全风险

  • 界定并研究AI红队效能的“权衡空间”

成为VIP会员查看完整内容
34

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
《美国防部CDAO:人工智能模型的测试与评估》66页slides
专知会员服务
42+阅读 · 2025年1月26日
《美陆军建模、仿真和原型开发(MSP)》12页slides
专知会员服务
38+阅读 · 2024年10月30日
《安全战术微云对边缘任务的支持》21页slides
专知会员服务
25+阅读 · 2024年6月9日
《利用人工智能 (AI) 实现决策优势》13页slides
专知会员服务
56+阅读 · 2024年5月2日
《国防ArcGIS:分析环境对作战的影响》最新35页slides
专知会员服务
45+阅读 · 2024年1月28日
《美空军与太空部队对CJADC2观点》美空军部14页slides
专知会员服务
55+阅读 · 2023年11月8日
《NASA先进信息系统中的机器学习》2022.11最新49页slides
专知会员服务
48+阅读 · 2023年2月25日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
52+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
51+阅读 · 2014年12月31日
国家自然科学基金
22+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
Arxiv
176+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
501+阅读 · 2023年3月31日
Arxiv
27+阅读 · 2023年3月17日
VIP会员
最新内容
“蛛网”行动一周年:远程无人机战争
专知会员服务
0+阅读 · 30分钟前
加沙、乌克兰和伊朗冲突:人工智能如何改变冲突
【剑桥博士论文】智能体-环境协同优化
专知会员服务
5+阅读 · 6月9日
为初级军官战术训练设计生成式人工智能平台
专知会员服务
7+阅读 · 6月9日
《美军条令:作战伤员后送保障》
专知会员服务
5+阅读 · 6月9日
《美空军条令出版物 4-0,维持》
专知会员服务
5+阅读 · 6月9日
《基于仿真的空军任务规划优化》
专知会员服务
4+阅读 · 6月9日
相关VIP内容
《美国防部CDAO:人工智能模型的测试与评估》66页slides
专知会员服务
42+阅读 · 2025年1月26日
《美陆军建模、仿真和原型开发(MSP)》12页slides
专知会员服务
38+阅读 · 2024年10月30日
《安全战术微云对边缘任务的支持》21页slides
专知会员服务
25+阅读 · 2024年6月9日
《利用人工智能 (AI) 实现决策优势》13页slides
专知会员服务
56+阅读 · 2024年5月2日
《国防ArcGIS:分析环境对作战的影响》最新35页slides
专知会员服务
45+阅读 · 2024年1月28日
《美空军与太空部队对CJADC2观点》美空军部14页slides
专知会员服务
55+阅读 · 2023年11月8日
《NASA先进信息系统中的机器学习》2022.11最新49页slides
专知会员服务
48+阅读 · 2023年2月25日
相关基金
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
52+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
51+阅读 · 2014年12月31日
国家自然科学基金
22+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员