人工智能将重塑国际安全与各国间的力量平衡。最重大的变化与人工智能增强或威胁治国方略主要功能的方式相关联。我们从三个维度审视这些影响:威慑与力量投送;支撑国力的资源;以及国家理解与适应动态战略环境的能力。本分析借鉴了对国家安全高级领导人的访谈,这些访谈提供了关于人工智能影响的见解以及对该技术的看法。这些讨论的一个核心主题是深刻的技术不确定性。人工智能的未来特性仍然足够不明朗,以至于允许对安全图景存在截然不同且常常相互矛盾的构想。我们识别了其中最重要的不确定性。人工智能界为缩小这些关键理解差距所做的工作,将增强国家领导人制定政策以维护全球稳定的能力。这些工作也将帮助科技公司更好地理解人工智能的更广泛影响,提高其为设计和部署日益强大的系统做出负责任决策的能力。
我们在三种趋势交汇之际撰写本文:全球利用先进人工智能力量的投入快速增长,对人工智能潜在影响的关注相应增加,以及冲突性质发生代际变革。在大型人工智能公司内部,大部分关注点集中在对齐、安全以及有益应用的广泛普及所面临的挑战上。在聚焦国家安全的公共讨论中,与人工智能应用相关的风险——网络空间行动、生物恐怖主义和自主武器——受到了极大关注。在此,我们考量人工智能对国际关系的后果。社会的繁荣与人民的福祉有赖于稳定的和平。日益增多的研究以及我们与国家安全领导人的讨论表明,人工智能的能力已足以开始破坏国际稳定的基础。从这个意义上说,人工智能正与网络安全和外层空间等既有领域一样,成为地缘政治关切的一个独特领域。培养驾驭这些地缘政治影响的能力,包括利用人工智能寻求主动解决方案,对人类未来的重要性至少不亚于管理传统的网络空间和生物安全风险。
本文聚焦于塑造治国方略核心功能的人工智能能力。其中最重要的包括加速科学发现的能力;强化复杂战略竞争中的规划与协调能力;以及增强态势感知能力。我们的范围是能够进行广泛、复杂认知劳动的前沿人工智能系统——那些能够规划、推理和协调的系统——而非图像识别或末段目标指示等狭隘应用。虽然专用人工智能模型已经在改变战争,但更通用的模型可能具有改变安全格局的最大潜力。随着专用功能让位于更通用的系统,这两类能力之间的界限正日益模糊。
历史表明,通用技术进步和经济实力的长期转移,而非特定的武器系统,往往对全球力量平衡产生最大影响。为商业航海而创造的航海计时器,使得精确测定经度成为可能,从而改变了海上贸易和战争。曾经免受欧洲海军威胁的国家很快便不再安全。电报在十九世纪中叶实现了近实时的指挥控制。丹尼尔·黑德里克的《帝国的工具》展示了蒸汽船和奎宁如何扩展了欧洲的军事触达范围。即便是简单的马镫,也被认为重塑了社会制度和中世纪国家的战争方式。
人工智能的进展及其地缘政治影响都存在巨大的不确定性。最接近的历史类比可能是冷战初期。当时一系列强大的新技术推动了对安全秩序的根本性重新构想。这需要数十年的工作、新学科的创建以及政治领导层与技术专家之间的广泛合作。即便如此,仍然发生了惊险的危机和很大程度的侥幸。找到一条明智的路径,投资于一个能让我们实现人工智能广泛潜力、降低对等竞争者间冲突概率、并减少对运气依赖的国际秩序,将需要协调一致的大规模工作。
我们在此关注的是这个更大挑战中一个微小的部分。受先前研究及我们与国家安全专家讨论的启发,我们首先审视最有可能影响国际安全的人工智能特性。这些包括颠覆威慑动态的能力阈值、决定谁能跟上的资源依赖、塑造优势消蚀速度的扩散路径等。另一个效应——人工智能对人类认知、感知和信任的影响——对于理解人工智能的影响也至关重要,但已超出本文范围。
为启发后续讨论,试想一个到2030年人工智能将海底传感技术进步速度提高十倍的世界。这意味着到2040年,我们将拥有远超当今规划和采办周期预期才能获得的能力。在计划建造的十二艘哥伦比亚级核潜艇最后一艘首次部署之前,科学水平将比其计划退役时的预期水平领先五十年。由于潜艇提供核三位一体的海基部分,且其威慑价值基于探测难度,其生存能力对战略稳定至关重要。我们没有任何结构、组织文化或经验能让我们为每十年发生一个世纪的军事科学进步做好准备。我们识别了人工智能开发者需要解决的技术不确定性,以帮助政策制定者为未来做好准备。虽然讨论了一些说明性场景,但我们避免对时间线或能力终点做出预测。专家存在分歧是合理的,没有任何东西可以替代旨在减少实质性不确定性的跨学科研究计划。