大语言模型(LLM)正从通用工具向国防工作流渗透,为情报分析、作战规划、后勤保障、网络行动及信息活动提供支持。然而,美国尚缺乏清晰、可执行的规范,以明确在后果重大的军事场景中何时可使用LLM输出、部署前需进行何种测试与监控,以及当LLM辅助决策导致损害或局势升级时如何界定责任。当前LLM处于治理缺口之中,可能引发三类风险:(一)在不确定性环境下因过度自信或脆弱建议加剧冲突升级;(二)降低信息战与虚假信息活动的成本与规模;(三)扩大对抗性操纵的攻击面,包括数据投毒与敏感数据泄露。
本备忘录提出一个以四大支柱为核心的美国军事LLM问责监管框架:
通过将负责任AI原则转化为可操作执行的保障措施,美国可降低不必要的升级与安全故障风险,强化对军事AI的文官监督,并为防御场景中LLM的负责任使用塑造可信国际规范。