本文呢探讨算法战的想象与现实之间的关系——算法战是二十一世纪决定性的全球安全挑战之一。我们首先界定人工智能是什么,并概述其诸多军事应用。接着,批判性地审视国际关系文献中关于人工智能近期的技术进步是否正在改变战争特征、乃至可能改变其本质的讨论。通过对近期加沙和乌克兰战争的经验性考察,本章着重指出了与人工智能相关的各种想象与其实际战场应用之间的重要差异。最后,为算法战的研究勾勒了一个修正后的研究议程,该议程:(1)对这些技术的研究采取一种更具自觉“批判性”的路径;(2)反思与人工智能相关的各种流行想象可能如何扭曲对其的经验研究;(3)更多地关注当代冲突中人工智能赋能决策支持系统的实际使用,而非仅仅聚焦于“杀手机器人”和自主武器系统。
人工智能是一个广泛的计算技术集合,能够执行原本需要人类认知才能完成的任务。在一些国际关系学者看来,人工智能是“这一代人的决定性技术”。因此,令人惊讶的是,在2010年代大国竞争重新成为国际政治的组织框架之前,人工智能的军事应用在国际关系学术界获得的关注相对有限。将这些技术作为算法战——即“将自动化、自主或人工智能技术集成到武器系统和军事决策过程中”——这一更广泛现象一部分的研究,此后日益增长,并取代了关于无人机和网络战的研究,走到了关于战争特征变化辩论的前沿。
这一转变反映了全球防务规划者赋予这些技术日益增长的战略重要性。全球大国竞争的再度兴起,支撑着对一系列旨在增进对算法战理解的研究谜题的探讨。研究已探讨了人工智能近期的技术进步是否代表了一场军事事务革命、是否重塑了全球力量平衡、以及是否影响了战略稳定。相比之下,批判安全研究学者则探讨了与算法战相关的诸多伦理风险。他们也考察了这些技术如何影响了西方军队对战争的构想。
如这所示,现有关于算法战的国际关系与战略研究学术成果信息量很大。然而,对人工智能军事应用的研究提出了值得进一步关注的分析挑战。围绕人工智能军事应用的实际开发与部署的保密性,对国际关系学者构成了重大的方法论挑战。而这些系统制造商发布的营销材料中常常对人工智能进行高度不切实际的描绘,进一步加剧了这一挑战。尽管这些系统存在诸多局限,但公众中仍普遍存在一种误解,认为现有人工智能系统的技术局限将不可避免地被克服,最终将发展出能够复制复杂人类行为和情感的“思考机器”。综上所述,这些因素指向了研究算法战所涉及的一个更大的分析挑战:对于那些没有强大人工智能技术背景的人来说,很难将这些技术与许多相关的“神话”和“幻想”与其实际使用和开发区分开来。这一难题促使我们反思驱动本章的核心问题:算法战的想象与现实之间是什么关系?
在研究这一问题时,我们的分析借鉴了日益增长的探讨与这些技术军事应用相关的想象的文献。人工智能想象可以定义为“社会对人工智能未来可能性、潜力和风险的理解”。这种想象随着时间推移可以编码到技术设计实践中,但并不必然对应于人工智能的现实。人工智能想象常常基于对人工智能不切实际的使用,过度简化了高度复杂的技术现实。例如,一些军队将人工智能视为克服“战争迷雾”和提高军事目标精度的强大工具。除其他影响外,人工智能想象在分析上具有重要意义,因为理论上它们会影响技术设计的现实实践和军事使用。它们也被认为塑造了关于这些技术的全球监管辩论。对人工智能想象的研究为关于算法战的国际关系学术做出了两项重要贡献。首先,通过强调所有技术的发展如何“受到政治、经济和社会文化利益的塑造,并受到公共领域话语协商的影响”,它挑战了认为人工智能的军事应用要么是必然的、要么是政治中立的那种决定论理解。其次,它促使国际关系学者批判性地审视指导其研究算法战的假设,以及这些假设是否与人工智能的现实军事应用相一致。通过这种方式,本章建立在现有对人工智能的国际关系学术综述之上,弥补了那些要么未专门聚焦算法战、要么在以色列-哈马斯战争之前发表的研究的空白,为这些技术的战场应用提供了新的见解。
本章认为,算法战的想象与现实是共同构建的,因此不应分开研究。简言之:国际关系学者以及其他利益相关群体(包括军事人员与政策制定者)如何想象人工智能的军事应用,不仅有助于塑造他们认为的算法战现实,也可能促成构建那些现实本身。因此,审视这些技术的现实军事应用有助于创造分析空间,以便对在国际关系学术内外流传的、占据主导地位且常常极不准确的算法战想象进行更为批判性的讨论。为此,我们呼吁一个更新的研究议程,推动关于人工智能军事应用的辩论超越对“杀手机器人”和自主武器系统相关想象的狭隘关注,更多地聚焦于人工智能赋能决策支持系统的使用。与此相关,我们也呼吁对算法战的研究采取一种更具自觉“批判性”的路径,并对流行文化中普及的那类人工智能想象可能如何扭曲对这些技术的军事现实的研究和理解保持敏感。
分四个阶段展开。意识到有些人鉴于定义这些技术的方式存在模糊性而认为人工智能本身就是一种想象,我们首先概述人工智能的技术构建模块及其一些不同的军事应用。接着,我们简要回顾关于算法战的学术文献,以此揭示许多关于这些技术理论上如何影响战争进行与特征的关键假设。这些见解进而为我们分析人工智能在乌克兰和加沙冲突中的实际应用提供了信息,这将在本章第三节讨论。我们通过为算法战研究提出一个修正后的研究议程来结束本章。