大语言模型(LLM)正从通用工具向国防工作流渗透,为情报分析、作战规划、后勤保障、网络行动及信息活动提供支持。然而,美国尚缺乏清晰、可执行的规范,以明确在后果重大的军事场景中何时可使用LLM输出、部署前需进行何种测试与监控,以及当LLM辅助决策导致损害或局势升级时如何界定责任。当前LLM处于治理缺口之中,可能引发三类风险:(一)在不确定性环境下因过度自信或脆弱建议加剧冲突升级;(二)降低信息战与虚假信息活动的成本与规模;(三)扩大对抗性操纵的攻击面,包括数据投毒与敏感数据泄露。

本备忘录提出一个以四大支柱为核心的美国军事LLM问责监管框架:

  • 人类决策权与升级管控:要求对特定作战决策留存人类授权记录,并对任何用于战略或危机敏感场景的LLM建立升级监控机制。
  • 信息作战内容的人类审批:强制要求对拟用于信息战或影响力活动的AI生成内容进行人工审核与批准。
  • 安全性、数据保护与对抗性测试:设定安全训练与部署管道、受控数据处理及针对模型与数据中心攻击的持续红队测试基线要求。
  • 问责与可追溯机制:强制要求为作战场景中使用的LLM输出建立审计追踪,明确人类决策者责任归属,并制定正式的事件报告与审查程序。
  • 适用范围:涵盖情报综合、规划支持、后勤保障、网络支援、信息作战内容起草、翻译、摘要生成及相关职能。

通过将负责任AI原则转化为可操作执行的保障措施,美国可降低不必要的升级与安全故障风险,强化对军事AI的文官监督,并为防御场景中LLM的负责任使用塑造可信国际规范。

成为VIP会员查看完整内容
13

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
AI驱动的军事行动知识管理:大语言模型的角色
《国防领域安全采用大语言模型的战略蓝图》
专知会员服务
21+阅读 · 6月6日
《基于大语言模型的军事不确定场景决策:模拟研究》
专知会员服务
55+阅读 · 2025年4月26日
《大语言模型与国际安全:导论》最新报告29页
专知会员服务
31+阅读 · 2025年1月6日
《国防大型语言模型:挑战与机遇》最新70页报告
专知会员服务
85+阅读 · 2024年8月23日
《将大型语言模型(LLM)整合到海军作战规划中》
专知会员服务
132+阅读 · 2024年6月13日
陆军与大型语言模型: 用人工智能革新军事行动
专知会员服务
50+阅读 · 2024年6月12日
一大批中文(BERT等)预训练模型等你认领!
PaperWeekly
15+阅读 · 2019年6月25日
自然语言处理中的语言模型预训练方法
PaperWeekly
14+阅读 · 2018年10月21日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
51+阅读 · 2014年12月31日
国家自然科学基金
75+阅读 · 2014年12月31日
国家自然科学基金
46+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
50+阅读 · 2013年12月31日
国家自然科学基金
39+阅读 · 2013年12月31日
Arxiv
17+阅读 · 2023年12月4日
Arxiv
21+阅读 · 2023年7月12日
VIP会员
最新内容
驱动军事决策变革的顶尖人工智能指挥系统
专知会员服务
7+阅读 · 8月11日
非对称防御中的自组织临界性:俄乌战争
专知会员服务
10+阅读 · 8月10日
《战争中的大语言模型监管》
专知会员服务
13+阅读 · 8月10日
《边缘计算关键技术分析及美军作战实践应用》
边缘计算的军事应用
专知会员服务
12+阅读 · 8月9日
一种考虑资源机动性的武器目标分配混合算法
专知会员服务
13+阅读 · 8月8日
相关VIP内容
AI驱动的军事行动知识管理:大语言模型的角色
《国防领域安全采用大语言模型的战略蓝图》
专知会员服务
21+阅读 · 6月6日
《基于大语言模型的军事不确定场景决策:模拟研究》
专知会员服务
55+阅读 · 2025年4月26日
《大语言模型与国际安全:导论》最新报告29页
专知会员服务
31+阅读 · 2025年1月6日
《国防大型语言模型:挑战与机遇》最新70页报告
专知会员服务
85+阅读 · 2024年8月23日
《将大型语言模型(LLM)整合到海军作战规划中》
专知会员服务
132+阅读 · 2024年6月13日
陆军与大型语言模型: 用人工智能革新军事行动
专知会员服务
50+阅读 · 2024年6月12日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
51+阅读 · 2014年12月31日
国家自然科学基金
75+阅读 · 2014年12月31日
国家自然科学基金
46+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
50+阅读 · 2013年12月31日
国家自然科学基金
39+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员