深度学习系统如今已在军事决策中调解武力使用,但其内部逻辑难以审查,评估实践易受操纵,且部署过程将责任分散于多方利益相关者之间。这些系统带来的伦理挑战本质上是认识论层面的:问题不仅在于是否应允许自主武器系统杀人,更在于当关键职能被委托给不透明算法时,负责任的判断条件能否得以维系。本文表明,这种认识论条件产生了具体的问责缺口:责任在设计者、操作者和政策制定者之间扩散,而国际人道法所预设的判断能力正是当前人工智能系统所缺乏的。为弥补这一缺口,提出一个治理框架,通过指定问责角色、采用未公开基准的对抗性审计、分级部署阈值以及拟议的北约评估标准,将伦理约束程序化。对八起有记录案例(1988-2025年)的反事实分析表明,每种治理机制均能应对一类有记录的失效模式,但没有任何单一保障措施能够独立奏效:军事人工智能的有效治理不仅需要技术约束,更需要维持人类判断意义的制度基础设施。
围绕军事人工智能的伦理辩论主要集中在二元问题上:是否应允许自主系统选择和攻击目标?这一框架推动了重要政策倡议,包括人工智能研究人员呼吁禁止进攻性自主武器的公开信[22],以及联合国特定常规武器公约正在进行的审议。然而,它掩盖了一个更根本的问题。挑战不仅在于是否应允许机器杀人,更在于当关键职能被委托给内部逻辑无法审查的系统时,负责任决策的认识论条件能否得以保存。
这些系统已在运作中。目标识别、监视、后勤和指挥支持日益依赖深度学习,其运行速度和规模超出人类认知能力。我们将这一转变称为“算法战”:将自主推理整合到指挥链中,从传感器处理到交战决策。
本文认为,军事人工智能的伦理危机从根本上说是认识论危机。推动这一变革的技术涵盖从自主目标识别到预测性后勤[64]等领域,其扩散正在重塑战略稳定[27]。深度学习模型的透明度问题在结构上与以往军事技术截然不同[11, 37]:即使源代码可用,其决策过程也难以被人类理解,事后解释技术提供的近似值也无法恢复对模型推理过程的访问[8, 76]。这种不透明性在指挥链中层层叠加:扭曲了操作者的信任[23, 41],将责任碎片化分散至各方利益相关者[44, 53, 69],并削弱了国际人道法的适用性——其核心原则所预设的判断能力正是当前人工智能系统所缺乏的[6, 7, 26, 66]。当决策被委托给算法时,责任并未消失。它被转移、遮蔽并通过模拟问责却未能真正落实的制度机制重新分配。
核心主张是:可治理的军事人工智能需要认识论基础设施——即旨在在不可消除的不确定性下维护人类判断条件的制度、程序和技术约束。这不是叫停军事人工智能应用(既不现实也不符合战略责任),而是确保部署在足以满足技术需求的治理结构内进行。本文做出两项贡献:
提供一个诊断框架,展示深度学习结构性不透明性如何与对抗性脆弱性、基准测试作弊及国防承包激励相互作用,产生三种复合型认识论失败(理解错觉、准确性错觉和确定性错觉),从而侵蚀问责制和国际人道法的实际适用性(第2节)。
提出一个程序性治理框架(指定问责角色、采用未公开基准的对抗性审计、拟议的北约评估标准、分级部署阈值及界面设计原则),并通过1988年至2025年间八个运营案例的反事实分析进行评估(第3节)。