随着人工智能在战场行动中扮演着越来越重要的角色,应当思考它如何也能被用于军事行动发生之前的战略决策。国家必须做出的一个关键决策就是是否使用武力。参与这一决策过程的通常只有一小群政治和军事领导人。高级军事指挥官通常在围绕是否使用武力的审议中扮演重要角色。他们的专业知识备受倚重。他们提供关于可用军事选项及其行动潜在结果的信息和指导。本文提出两个问题:(1)军事指挥官如何做出这些判断?(2)人工智能如何用于辅助他们进行关键决策过程?针对第一个问题,借鉴了心理学、哲学以及军事组织自身的现有文献。针对第二个问题,探讨了人工智能如何增强指挥官在审议使用武力时的判断和推理。尽管已有大量研究探讨使用人工智能驱动决策支持系统的风险,但本文聚焦于机遇,同时将这些风险牢牢置于视野之中。
关于人工智能在军事背景下的讨论,大多集中在其在战争行动或实施中的应用,例如战场上的致命性自主武器或网络战。尽管这些是至关重要的研究和辩论领域,但它们往往掩盖了人工智能另一个重要的潜在应用:在“战争室”中的使用(Erskine & Miller, 2024a, pp.137–8)。也就是说,在战场之外,人工智能可以在武装冲突之前的战略审议中发挥作用,包括关于诉诸武力是否正确的关键决策。人工智能在这一决策早期阶段的潜在作用值得更密切的关注。诉诸武力的决定通常由一国政治和军事领导层中的一小部分精英群体做出。在这些审议中,高级军事指挥官扮演着至关重要的顾问角色。他们凭借其专业知识被咨询,以评估对手的能力和意图、概述可用的军事选项,并预测不同行动方案的可能后果。本文探讨了人工智能如何用于增强军事领导者的认知能力,特别是他们做出复杂、高风险判断的能力。
人工智能可以通过多种方式支持军事指挥官发挥这种能力,但这些方式并非没有风险(Erskine & Miller, 2024b)。将人工智能作为决策支持系统引入任何人类决策过程,都存在有据可查的潜在风险。这些风险包括(但不限于)对自动化偏见的担忧、削弱人类决策者的自主性、技能退化和道德退化、由此退化可能引发的安全问题、对道德和法律责任界限模糊的担忧,以及对人类失去对人工智能控制的担忧。这些风险如此严重,以至于在战争室这样的高风险领域引入人工智能作为决策支持系统的想法,可能看起来总体上是一个黯淡的想法。为什么甚至要考虑在这种背景下使用人工智能?能获得任何好处吗?如果不能,前进的道路似乎很明确:在这种(或许任何)高风险背景下,干脆不要使用任何人工智能驱动的决策支持系统。在本文中,扮演魔鬼代言人:在这些风险的背景下,思考这种提议的人工智能应用(作为军事指挥官的决策支持)是否能为动武决策带来任何好处或机遇。为此,探讨两个问题。(1)首先,军事指挥官如何做出决策?(2)其次,人工智能如何用于辅助他们进行关键决策?为了回答第一个问题,借鉴了心理学、哲学以及军事组织自身的现有文献。为了回答第二个问题,探讨了人工智能决策支持系统在具体背景下的可能应用。结论是,有几种方式可以应用非自主人工智能来支持高级军事指挥官。
如果论点成立,那么将确定在动武决策背景下使用人工智能驱动支持系统的一些可能好处。当然,仅仅确定一项新技术干预的一些潜在好处,并不足以证明引入它的合理性。任何潜在好处都必须与风险进行权衡。分析潜在好处与风险之间的权衡,以得出关于是否以及何时应在此背景下使用人工智能的结论,将超出本文的范围。目标仅仅是确定人工智能驱动的决策支持系统在动武决策中可能具有的一些潜在好处;并且在这样做的同时,认识到已经识别出的一些高风险(Erskine & Miller, 2024b)。毕竟,如果在此背景下完全无法确定支持使用人工智能驱动支持系统的任何潜在好处,但却存在明确的风险,那么应遵循的道路似乎就很直接了。因此,尽管本文旨在强调使用人工智能支持军事指挥官履行关键角色的一些潜在机遇,但将权衡这些潜在好处与风险的工作留给读者。最终可能形成一种一致且合理的立场,即既接受提出的论点(识别人工智能如何增强和改进动武决策的潜在好处),同时仍坚持认为这项新技术干预的风险过高,因此不应在此背景下使用人工智能。