美军军官可以批准使用他们并不信任的人工智能增强型军事技术。这是一个严重的问题。
专家们一致认为，未来战争的特征将是使用人工智能增强型技术，特别是完全自主的武器系统。这些能力——例如美国空军的“忠诚僚机”无人机——能够在没有人类监督的情况下识别、跟踪和打击目标。最近在加沙、利比亚、纳戈尔诺-卡拉巴赫和乌克兰等冲突中使用这些致命自主武器系统的情况，引发了重要的法律、伦理和道德问题。
尽管这些系统已被使用，但人工智能增强型军事技术将如何改变战争的性质和动态仍不清楚。那些最担心将人工智能用于军事目的的人预见了一个反乌托邦的未来或“人工智能末日”，届时机器将成熟到足以主宰世界。一位政策分析人士甚至预测，致命自主武器系统“将导致世界秩序发生比核武器问世时更为巨大的地震式变革”。其他观察人士则质疑，考虑到通过算法模拟生物智能的复杂性，人工智能系统在多大程度上能够真正接管人类。假设人工智能的这种扩展是可能的，依赖它的军队将承受数据和判断成本，这些成本可以说“使得战争中的人的因素变得更加重要，而非相反”。
虽然在讨论人工智能对全球政治的潜在影响时这些观点很有用，但它们并未解释人工智能实际上可能如何改变战争的进行方式，以及士兵对此有何看法。为了解决这个问题，最近有研究人工智能增强型军事技术——在不同决策层级和监督类型下整合——如何塑造美军军官对这些系统的信任，而这种信任又影响着他们对战争轨迹的理解。在人工智能领域，信任被定义为相信自主技术将可靠地按预期执行以追求共同目标的信念。
XQ-58A“瓦尔基里”“忠诚僚机”无人作战飞行器，图中正在部署一架Altius-600小型无人机系统，由人工智能驱动，能够在没有人类监督的情况下识别、跟踪和打击目标。（图片来源：美国空军。设计：François Diaz-Maurin / Erik English）
为了衡量军队对致命自主武器系统的信任程度，研究了在宾夕法尼亚州卡莱尔的美国陆军战争学院和罗德岛州纽波特的美国海军战争学院学习的军官的态度。这些军官——军队未来的将军和海军上将将从他们当中选拔——负责管理未来冲突中新兴能力的整合和使用。因此，他们的态度对于理解人工智能可能在多大程度上塑造由“战争机器人”军队作战的新战争时代至关重要。
研究显示了三个关键发现。首先，军官对人工智能增强型军事技术的信任程度，因其整合的决策层级和对新能力的监督类型而异。其次，军官可以批准或支持采用人工智能增强型军事技术，但并不信任它们，这表明态度上存在不一致，这对军事现代化具有影响。第三，军官对人工智能赋能能力的态度也可能受到其他因素的影响，包括他们的道德信仰、对人工智能军备竞赛的担忧以及受教育水平。综合来看，这些发现首次提供了关于军队对战争中人工智能态度的实验证据，对军事现代化、自主武器的政策监督以及专业军事教育（包括核指挥与控制）具有启示意义。
四种类型的人工智能赋能战争
各国采用人工智能增强型军事技术的方式，在决策层级（战术或战略）和监督类型（人类或机器）方面可能有所不同。各国可以优化算法以执行战场上的战术行动，或进行支持总体战争目标的战略研判。在战术层面，此类技术可以通过快速分析来自分布在战场上的传感器的大量数据，比对手更快地生成瞄准选项，从而增强野战指挥官的杀伤力。正如网络安全专家乔恩·林赛所言，“战斗可以被建模为一个通过消灭更多敌人同时保存更多己方力量来取胜的游戏。”这是通过显著缩短“传感器到射手”的时间线来实现的，该时间线对应从获取目标到打击目标之间的时间间隔。美国国防部的“利马工作组”和“Maven项目”都是此类人工智能应用的例证。
在战略层面，人工智能增强型军事技术也可以帮助政治和军事领导人将关键目标与作战方法和有限资源（包括物资和人员）相结合。新的能力甚至可能出现并取代人类在未来军事行动中的角色，包括制定战略方向和国家级战略。正如一位专家所言，人工智能已经显示出“从事与发动战争所需的复杂分析和战略制定相媲美的潜力”。
与此同时，各国也可以校准赋予人工智能增强型军事技术的监督或控制类型。这些技术可以设计为允许更大的人类监督，从而增强对决策的自主权。此类系统通常被称为半自主系统，意味着它们仍处于人类控制之下。这种监督模式描述了大多数人工智能增强型武器系统（如通用原子公司的MQ-9“死神”无人机）目前的运行方式。虽然“死神”可以自动驾驶，根据地貌和天气条件的变化调整其高度和速度，但人类仍然做出瞄准决策。
各国也可以设计对人类监督较少的人工智能增强型军事技术。这些系统通常被称为“杀人机器人”，因为人类脱离了回路。在这些应用中，人类行使有限的监督（如果有的话），即使是针对瞄准决策。决策层级和监督类型的变化表明，鉴于人工智能增强型军事技术的采用，全球可能出现四种类型的战争。
四种类型的人工智能赋能战争。（插图：François Diaz-Maurin）
首先，各国可以将人工智能增强型军事技术用于人类监督下的战术决策。这定义了保罗·沙雷所称的“半人马战争”，以希腊神话中上半身是人、下半身和腿是马的生物命名。半人马战争强调人类出于战场目的对机器的控制，例如摧毁敌方武器库等目标。
其次，各国可以将人工智能增强型军事技术用于机器监督下的战术决策。这实际上颠覆了半人马战争，让人联想到古希腊的另一种神话生物——牛头怪，有着公牛的头和尾巴以及人的身体。“牛头怪战争”的特点是机器在战斗中及跨域作战中对人类的控制，其范围可以从地面上的士兵巡逻到海洋上的战舰星座再到空中的战斗机编队。
第三，战略决策与机器监督相结合，构成了“人工智能将军”或“独裁者”类型的战争。这种方法赋予人工智能增强型军事技术极大的自由度来塑造国家作战的轨迹，但可能对冲突中的国家间攻防平衡产生严重影响。换句话说，人工智能将军类型的作战可以使国家在时间和空间上获得并保持对对手的优势，从而塑造战争的总体结果。
最后，“马赛克战争”保留人类对人工智能增强型军事技术的监督，但试图利用算法来优化战略决策，以对同等对手施加和利用其弱点。这种作战模式的意图——美国海军陆战队退役上将约翰·艾伦称之为“超战争”，学者们通常称之为算法决策支持系统——是在使用算法执行关键赋能任务的同时，保留人类的整体监督。这些任务包括通过“实时威胁预测”过程预测敌人可能的行动方案（这是国防部新的机器辅助分析快速存储系统的使命），识别最可行、可接受和适合的战略（Palantir和Scale AI等公司正在研究如何做到这一点），以及定制关键作战功能（如后勤），以帮助军队在印太地区等以补给线延长为特征的对抗性作战环境中获得并保持主动权。
美军军官对人工智能赋能战争的态度
为了探究军官在决策层级和监督类型变化的情况下如何信任人工智能增强型军事技术，2023年10月对在卡莱尔和纽波特的战争学院任职的军官进行了一项调查。该调查涉及四个实验组，分别在决策（战术或战略）和监督（人类或机器）方面改变人工智能增强型军事技术的使用，以及一个不操纵这些属性的基线组。在阅读了他们随机分配的场景后，要求受访者以1分（低）到5分（高）的等级评价他们对能力的信任和支持程度。然后使用统计方法分析了数据。
虽然样本并不代表美国军队（或其军种，如美国陆军和海军），但它属于政治学家所说的便利样本。这有助于得出关于服役人员可能如何信任人工智能增强型军事技术以及这种信任对战争特征影响的极为罕见的见解。
鉴于人工智能的出现，这个样本也是对理解未来战争可能变化的严峻考验，因为过度抽样了校级军官，包括少校/少校、中校/中校和上校/上校。他们受过多年训练，是目标定位方面的专家，许多人曾部署到战区并就无人机做出过决策。他们也是被委托评估新技术对未来冲突影响的新兴高级领导者。这些特征意味着，样本中的军官可能比军队的其他部分（尤其是通常被称为“数字原住民”的初级军官）更容易不信任人工智能增强型军事技术。
这项调查揭示了几个关键发现。首先，基于决策层级和监督类型的变化，军官可以以不同方式信任人工智能增强型军事技术。虽然军官普遍不信任不同类型的人工智能增强型武器，但他们最不信任用于“独裁者”战争（机器监督下的战略决策）的能力。另一方面，他们对“马赛克”战争（人类监督人工智能优化的战略决策）表现出更多的信任。这表明军官始终偏好人类对人工智能的控制，无论是识别敌方活动中的细微模式，生成使对手面临多重困境的军事选项，还是在持久冲突中帮助维持战备状态。
与基线组相比，军官对人工智能赋能军事技术的信任度在“独裁者”战争方面的下降幅度（18.8%）大于“马赛克”战争（10.5%）——见图1。虽然军官的平均信任水平与基线组相比的差异对于这两种类型的人工智能增强型战争都具有统计显著性，但用于“独裁者”战争的新军事能力的差异比用于“马赛克”战争的更为明显。此外，军官对两种类型的人工智能增强型战争的信任概率的平均变化（即人工智能增强型军事技术对军官信任的平均边际效应）仅对“独裁者”战争具有统计显著性。总体而言，这些结果表明，军官对用于在更高层级辅助决策且有人类监督的人工智能增强型军事技术的不信任程度较低。
这些关于信任水平的结果在很大程度上与军官的支持态度相呼应。与基线组相比，军官对用于“独裁者”战争的人工智能增强型军事技术表现出更少的支持，且几乎处于相同水平——18.3%——和相同的统计显著性程度。然而，与基线组相比，军官对“牛头怪”战争的支持也高于其他模式的人工智能增强型战争，支持水平的变化约为6.5%。这表明，虽然军官对整合到更高决策层级并受人类控制的人工智能增强型军事技术可能不那么不信任，但他们更支持用于战术层面决策并受机器监督的人工智能增强型军事技术。总之，军官的态度似乎反映了国王学院教授肯尼斯·佩恩的观点：“战争机器人将成为不可思议的战斗员，但却是有限的战略家。”
图1. 四种类型人工智能赋能战争相对于基线组的信任与支持。注：数值代表各实验组与基线组相比对人工智能增强型军事技术的支持与信任水平的变化。当支持与信任水平相较于基线组下降时，数值为负。（数据：Paul Lushenko。可视化：François Diaz-Maurin）
军官对战术层面使用人工智能增强型军事技术的相对较高支持揭示了第二个关键发现。军官对人工智能增强型军事技术的态度在支持方面可能比信任方面更为明显。这意味着一些学者所称的“信任悖论”。军官似乎支持采用人工智能增强的新型战场技术——即使他们不一定信任它们。这种现象主要与“牛头怪”战争（将人工智能用于战术层面决策并受机器监督）相关。这表明军官期望人工智能增强型军事技术将压缩对手的机动时间和空间，同时扩大美军的机动时间和空间，这基于缩短的“传感器到射手”时间线，高级军事领导人认为这是在未来冲突中击败近等对手的关键。
军官对用于战术层面决策并受机器监督的人工智能增强型军事技术的支持程度变化幅度大于其信任程度的变化（图2）。此外，结果显示军官的信任与支持态度之间的差异具有统计显著性：军官对用于“牛头怪”战争的人工智能增强型军事技术的支持程度高于信任程度。军官支持用于“牛头怪”战争的人工智能增强型军事技术的概率平均变化也高于其他三种类型的人工智能增强型战争。
综合来看，这些结果表明美军军官在对人工智能增强型军事技术的支持与信任之间存在信念不一致。尽管支持采用此类技术以优化不同层级和监督程度下的决策，但军官并不信任因新兴人工智能能力而产生的潜在战争类型。这一结果表明，美军军官可能感到有义务拥抱违背自身偏好和态度的预期战争形式，尤其是作为新兴美国陆军和海军作战概念基础的“牛头怪”战争。
图2. 四种类型人工智能赋能战争的信任与支持。注：数值代表各实验组对人工智能增强型军事技术的支持与信任的平均水平。（数据：Paul Lushenko。可视化：François Diaz-Maurin）
其他因素进一步解释了军官对人工智能增强型军事技术信任程度的变化。在调查中，在控制决策层级和监督类型的变化后，发现军官对这些技术的态度也可能受到潜在的道德、工具和教育考量的影响。
认为美国有道义义务在国外使用人工智能增强型军事技术的军官，对这些新型战场能力表现出更高的信任程度，这与支持态度也是一致的。这表明，军官对在国外（例如在人道主义援助和救灾行动中）使用人工智能增强型军事技术潜在好处的道德信念，可能有助于克服他们在采用这些能力时固有的不信任。
此外，那些对人工智能增强型军事技术赋予工具价值并抱有“害怕错过”态度的军官——即他们认为其他国家采用此类技术迫使美国也必须采用，以免在潜在的人工智能军备竞赛中处于不利地位——也倾向于对这些新兴能力有更大的信任。在考虑教育因素时也观察到类似的信任态度。结果显示，更高的教育水平降低了军官对人工智能增强型军事技术的信任，这意味着更多或更专业的知识引发了对人工智能在未来战争中优点和局限性的疑问。最后，在这些规范和工具考量的交汇点上，发现认为军事力量对于维持全球秩序是必要的军官也更支持使用人工智能增强型军事技术。综合来看，这些结果强化了早期的研究，表明军官的世界观塑造了他们对战场技术的态度，并且军官在评估他们对在国外使用武力的信任和支持时可以整合不同的逻辑。
如何更好地为军官应对人工智能赋能战争做好准备
这份关于美军军官对人工智能态度的首批证据，描绘了一幅比某些分析人士所允许的更为复杂的、因新兴技术而演变的战争特征图景。然而，这些态度对作战现代化和政策，以及军官的专业军事教育（包括核武器治理）都具有影响。
首先，尽管一些美军领导人声称“我们正在目睹战争特征的地震式变革，很大程度上再次由技术驱动”，但人工智能增强型军事技术在冲突中的出现可能更多的是演进而非革命。虽然加沙和乌克兰的战争表明军队作战方式发生了重要变化，但它们也反映了关键的连续性。军队历来寻求利用新技术来增强情报、保护部队以及延伸战术和作战火力的射程，这些结合起来在战场上产生了“激进的非对称性”。最近，无人机使用和受限方式的变化也被证明会影响公众对合法——或非法——使用武力的看法，这一结果与新兴的完全自主军事技术是一致的。
然而，这些及其他能力对战争战略结果的影响充其量是可疑的。战争中的战略成功仍然是国家牺牲士兵生命和纳税人金钱以实现支持关键国家利益的政治和军事目标的意愿的函数。事实上，研究中的军官可能最支持用于“牛头怪”战争的人工智能增强型军事技术。但总体而言，研究参与者对新型战场技术的信任和支持程度仍然远低于考虑到围绕其军事创新的炒作——如果不是夸张和恐惧的话——可能预期的水平。这些结果表明，军事领导人应降低对人工智能对未来冲突范式影响的预期。换句话说，我们应该“准备好对人工智能感到失望”。据美国陆军中校迈克尔·弗格森称，缺乏这种清醒的视角导致了“时尚理论的出现，将战争变成了一种委婉语的歌舞伎表演”，掩盖了战斗的严酷现实。这是一场意志的较量，极具人性化，并受政治目标制约。
其次，军官对人工智能增强型军事技术的信任态度比研究显示的更为复杂。事实上，正如一位前美国空军上校、现任参谋长联席会议J-8局分析师所指出的，“操作员很难高概率地预测一个系统在面对适应性对手时的实际表现，这可能会侵蚀对系统的信任。”在另一项正在进行的研究中，发现军官对人工智能增强型军事技术的信任可能受到一系列复杂考量的影响。这些包括技术规格，即其非致命目的、更高的精度和人类监督；在平民保护、部队保护和任务完成方面的感知有效性；以及监督，包括国内尤其是国际监管。事实上，本研究中的一位军官指出，对人工智能增强型军事技术的信任基于“遵守国际法而非美国国内法”。
这些结果表明，需要对新型能力进行更多的测试和实验，以使其使用与服役人员的期望保持一致。政策制定者和军事领导者还必须阐明应鼓励发展人工智能增强型军事技术的作战概念；指导其在不同领域、不同层级、用于不同目的的整合的条令；以及管理其使用的政策。对于后一项任务，官员们必须解释美国政策如何与国际法相一致或相偏离，以及哪些规范制约着人工智能增强型军事技术的使用，同时考虑到校级军官（至少）期望这些能力如何被使用。为填补这一空白，白宫最近宣布了一项关于负责任地军事使用人工智能及自主功能和系统的美国政策，国防部通过了管理美军自主武器开发和使用的指令，五角大楼还设立了首席数字与人工智能办公室以协助执行该指令，尽管据报道该办公室面临预算和人员方面的挑战。
最后，军事领导者还应改革专业军事教育，向军官传授人工智能的优点和局限性。他们应探索人工智能在其他战略背景下的应用，包括核指挥与控制。美军内部的许多举措已经反映了这一需求，特别是考虑到军官对与人工智能赋能能力合作的犹豫。
在作战层面，由美国陆军第18空降军领导的“里奇韦项目”旨在将人工智能整合到目标定位流程中。与之相匹配的是“阿梅莉亚”和“忠诚僚机”，分别是海军和空军的项目，旨在优化参谋流程和作战能力。在制度层面，除了现有的认证课程外，一些分析人士鼓励将数据素养评估纳入基于人才的人才评估项目，例如美国陆军的指挥官评估项目。在教育层面，各军种院校和战争学院设有专门研究人工智能对未来战争影响的教职、研究中心和选修课。美国陆军战争学院最近聘请了一名数据科学教授，美国海军学院维持着一个“武器、机器人与控制工程”研究集群，美国海军战争学院提供一门“战略领导者人工智能”选修课。
MQ-9“死神”无人机，图中正在发射一枚AGM-114“地狱火”空对地导弹，是一种遥控无人驾驶飞机，可用于情报、侦察和打击。（图片来源：美国空军。设计：François Diaz-Maurin）
与此同时，在美国海军战争学院等地进行的兵棋推演表明，网络能力可能鼓励核指挥与控制的自动化和向战术级指挥的预授权，并激励侵略性的反制战略。但我的结果提出了一个令人费解且值得更多测试的结论。仅从表面价值来看，尽管结果可能与在战争中使用核武器相同，但这些结果提出了一个令人不安的问题：军官们是否真的愿意支持将核指挥与控制自动化和预授权给战术级人工智能的潜在可能，即使他们不信任它，或者如结果所示，不信任或不支持使用人工智能来管理反制战略？
虽然这一结论可能看起来古怪——与关于核“禁忌”、危机升级以及总统单独授权使用这些武器的大量研究相矛盾——但俄罗斯威胁在乌克兰使用核武器，已促使美军重新审视在大国战争中有限使用核武器的可能性。尽管或者说正因为这种“回到未来”情景的可怕潜力——它呼应了冷战期间战术核武器的扩散——美国战争学院已重新加强了在大规模冲突国家间进行战术核交战时作战准备的教育。
然而，这些及其他举措在多大程度上有效地对军官进行了人工智能教育尚不清楚。部分问题在于这些举措将竞争性的教学方法对立起来。一些项目采用“一英里宽、一英寸深”的方法来调查数据素养和人工智能，将单一课程整合到更广泛课程中的一个模块中。其他项目提供更多的发展机会和“更窄更深”的方法，少数军官自愿选择在更广泛课程之上叠加的选修课。还有其他项目，如美国陆军战争学院的项目，尝试“金线”方法，将数据素养和人工智能嵌入构成更广泛教学计划的各个课程中。然而，后一种方法迫使管理者在内容和时间方面做出重要的权衡，并假设教职人员具有深厚的专业知识。
未来，美参谋长联席会议J-7局——负责协调全联合部队训练和教育的部门——应将专业军事教育构想为一个在数据素养和人工智能教学方面持续、累积强化的连续体。就读于军种院校或参加后备军官训练团的预任军官学员应接触人工智能的基本概念。初级和中级军官应在训练、部署以及参加中级教育（如美国陆军指挥与参谋学院）时整合这些见解。在被选入战争学院后，军官应深入探讨关于在战斗中使用人工智能的概念性、规范性和工具性考量，研究表明这些考量可以塑造军队对新兴技术的态度。
当然，这种端到端的教育方法需要时间和资金来采用。它也容易受到不同利益攸关方优先事项、军种文化和军种间竞争的影响。然而，通过将训练和教育与清晰可行的学习成果对齐，这种整体教学模式利用了现有机会，确保美军在和平时期和未来战争中做好准备并愿意以符合国际法和规范的方式采用人工智能增强型军事技术，这些法律和规范制约着其合法使用。
相关内容
微信扫码咨询专知VIP会员