大语言模型(LLM)正从通用工具向国防工作流渗透,为情报分析、作战规划、后勤保障、网络行动及信息活动提供支持。然而,美国尚缺乏清晰、可执行的规范,以明确在后果重大的军事场景中何时可使用LLM输出、部署前需进行何种测试与监控,以及当LLM辅助决策导致损害或局势升级时如何界定责任。当前LLM处于治理缺口之中,可能引发三类风险:(一)在不确定性环境下因过度自信或脆弱建议加剧冲突升级;(二)降低信息战与虚假信息活动的成本与规模;(三)扩大对抗性操纵的攻击面,包括数据投毒与敏感数据泄露。

本备忘录提出一个以四大支柱为核心的美国军事LLM问责监管框架:

  • 人类决策权与升级管控:要求对特定作战决策留存人类授权记录,并对任何用于战略或危机敏感场景的LLM建立升级监控机制。
  • 信息作战内容的人类审批:强制要求对拟用于信息战或影响力活动的AI生成内容进行人工审核与批准。
  • 安全性、数据保护与对抗性测试:设定安全训练与部署管道、受控数据处理及针对模型与数据中心攻击的持续红队测试基线要求。
  • 问责与可追溯机制:强制要求为作战场景中使用的LLM输出建立审计追踪,明确人类决策者责任归属,并制定正式的事件报告与审查程序。
  • 适用范围:涵盖情报综合、规划支持、后勤保障、网络支援、信息作战内容起草、翻译、摘要生成及相关职能。

通过将负责任AI原则转化为可操作执行的保障措施,美国可降低不必要的升级与安全故障风险,强化对军事AI的文官监督,并为防御场景中LLM的负责任使用塑造可信国际规范。

成为VIP会员查看完整内容
2

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
VIP会员
最新内容
非对称防御中的自组织临界性:俄乌战争
专知会员服务
1+阅读 · 59分钟前
《战争中的大语言模型监管》
专知会员服务
2+阅读 · 今天14:26
边缘计算的军事应用
专知会员服务
8+阅读 · 8月9日
一种考虑资源机动性的武器目标分配混合算法
专知会员服务
9+阅读 · 8月8日
微信扫码咨询专知VIP会员