本报告汇总了2025年11月关于人工智能与军事整合圆桌会议的关键发现、见解与政策选项。美国科学家联合会通过与生命未来研究所的合作，汇集了来自学术界、产业界和政府的人工智能风险领域关键利益相关方。通过此次会议，专家们讨论并确定了在人工智能进一步融入军事系统和国防基础设施的过程中，政府与产业界可采取哪些政策干预机会以降低风险。本报告结构分为三部分：执行摘要、调查结果的详细分析，以及为与会者准备的两篇会前研读文件。第一篇研读文件侧重于人工智能与军事整合现状的基线评估，这也是第一场专题讨论会的焦点。第二篇研读文件侧重于人工智能融入军事规划与作战的方式，即第二场专题讨论会的焦点。

2025年11月19日，美国科学家联合会与生命未来研究所在华盛顿特区的罗纳德·里根大厦和国际贸易中心共同举办了一场圆桌会议。此次讨论聚焦于人工智能融入军事系统，包括后勤、指挥、控制与通信以及致命性自主武器系统。

主要发现

许多与会者认为人工智能作为更广泛军事现代化的一部分存在重大机遇，但也注意到围绕人工智能系统用于美国国防部用途存在重要的两党关切领域。例如，一些人工智能增强的军事系统可能自动化了通常需要人工监督的流程，从而压缩了决策时间。会议指出，人工智能增强系统还可能引入下游风险，包括网络安全漏洞和所谓的“幻觉”，并可能由于技术栈的差异而降低与盟国军队的互操作性。此外，美国国防部现有的采办架构不足以对军事系统的人工智能能力进行必要的测试与评估。国防部缺乏高质量的数据和基准测试能力来创建和评估人工智能系统，同时在吸引和留住必要人才方面也面临困难。与会者强调了人工智能在改进后勤等领域（该领域错误更易观察和纠正）的潜力。在国际层面，围绕致命性自主武器系统和其他人工智能增强军事系统的竞争压力正因“军备竞赛”心态而加剧，各国将面临压力，无论其效用或对危机与军事稳定的影响如何，都会部署此类系统。在乌克兰和以色列-加沙冲突中，致命性自主武器系统的使用速度之快和规范之缺乏，引起了与会者的多重关切。盟国也优先考虑对其自主系统的“人工智能主权”，这降低了互操作性，削弱了美国制定国际规范的能力，也影响了美国盟友之间共同分享经验教训、减少可预防错误或风险引入的能力。

政策选项

基于圆桌讨论及后续分析，美国科学家联合会确定了以下应对人工智能与军事整合交汇点挑战的政策选项。这些选项供讨论之用，其列示并不意味着得到任何圆桌讨论参与者的认可：

• 国防部门可继续为军事人工智能发展风险分级治理框架，区分后台自动化与高风险指挥、控制及致命性应用，并对人工智能可能实质性影响动态决策的领域提出更高的人工判断与干预要求。

• 国会可为军事专用的人工智能测试与评估拨付更多资金，以创建用于训练人工智能系统的准确可靠基准，尤其关注高风险系统。国防部可继续改进人工智能测试，特别是针对目前失效模式未知的商业模型。

• 国防部门可为军人和文职管理人员创建人工智能素养与验证培训项目，特别是关于维持人工监督或验证人工智能系统输出的内容。国防部还可强制要求用于决策支持的人工智能系统包含可解释性功能。

• 国防部门可通过制定关于军人未经授权使用人工智能系统的严格协议、指导军人合理使用人工智能，以及对任何商业模型进行对抗性测试以更深入理解潜在失效模式，从而加强商业人工智能系统的作战安全。

• 国防部门可通过明确界定关于互操作性与信息安全的指导方针，并与盟国开展建立信任措施以构建围绕数据和情报共享的标准，来推动在盟国军队中使用美国的人工智能系统。