人工通用智能(AGI)可能出现的未来,既预示着巨大的机遇,也伴随着尚未量化的风险。通往AGI能力的新路径的出现,已被认为可与核武器的发展相类比。正如博弈论在核武器早期发展与运作期间成为建模和推导战略均衡的一种手段,本文作者提议使用博弈论来捕捉和形式化围绕通往AGI之路的一些战略动态。
在本文中,作者将地缘政治层面通往AGI的竞赛,建模为两个主要行为体——美国与中国——之间的一系列战略互动。从一个单次博弈的囚徒困境模型出发,作者表明,尽管相互合作能产生最高的经济增长,但占主导地位的均衡却是相互破坏政策。随后的模型纳入了特定因素:(1)与AGI突破相关的、破坏稳定的“奇点武器”的出现;(2)重复博弈动态;(3)先发制人打击的可能性——其中每个因素都加剧了竞争激励和战略不稳定性。作者最终将模型扩展至包含累积性的生存与系统性风险——例如滥用、错位或扩散——这些风险可能为支持不扩散的合作创造条件。
作者对每个博弈模型进行了逐步推演,提供了数学表述和参与者洞见,以确定各种策略最可能的行动与收益。作者的研究结果有助于决策者和广大受众,特别是那些有兴趣审视通往AGI的地缘政治竞赛的人们,更好地理解其中涉及的风险以及潜在的合作路径。