人工智能军事技术在中东地区的扩散

军方对人工智能军事技术的投资凸显了加强监管以维护国际人道法效力和保护平民的必要性，也暴露出现有治理框架在管理商业供应商方面的不足。

2021年5月的以色列-哈马斯冲突被以色列媒体描述为“世界首场人工智能战争”，其将多项新的人工智能系统整合进军用技术，从新的目标识别流程到增强型武器系统。自那时起，人工智能与军事技术的融合已突飞猛进，该地区各国都寻求将人工智能纳入其军事架构。这很大程度上涉及与商业实体的合作，从以色列初创公司到亚马逊、谷歌和微软等大型科技公司。由于这些实体已显示出规避其自我宣称的人权承诺和尽职调查义务的倾向，需要在武装冲突期间加强监管以保护平民生命和基础设施。

人工智能军事应用的扩散

作为最易获得此项技术的参与者，以色列正在该地区率先部署人工智能军事技术，往往造成毁灭性影响。以色列首次大规模使用此类技术是在2021年5月的战争中，但其应用在2023年10月7日后呈指数级增长。在加沙战争的最初几周内，据报道名为“薰衣草”的人工智能决策支持系统被用于生成了一个包含37,000个个体目标的名单。

以色列大力投资于将人工智能整合到其军队中，从在国防部国防研究与发展局内设立人工智能与自主管理局，到使精英信号情报部队8200部队能够开发以色列国防军自有的人工智能工具。虽然人工智能已被集成到武器系统中以提高目标跟踪和杀伤率，如Smart Shooter公司的SMASH光学瞄准系统案例，但以色列最重要的创新在于开发人工智能决策支持系统。以色列人工智能决策支持系统的例子包括：根据与武装团体的疑似关联程度对个人进行目标评级的“薰衣草”系统；生成目标清单的“福音”系统；以及在潜在打击前追踪个人位置的“老爹在哪？”系统。尽管将人工智能集成到决策支持系统中使军队能够更快地分析数据并加速决策周期，但由于目标生成速度过快导致有效人工核查困难，以及机构倾向于依赖人工智能而非人工评估的高风险，这增加了出错的风险。

美国也在该地区部署这些技术。值得注意的是，美国国防部已使用人工智能决策支持系统在伊朗、伊拉克、叙利亚和也门境内识别目标。最近，“史诗怒火”行动在24小时内打击了伊朗境内1,000个目标。实现如此大规模快速目标选择的一个关键因素是美军使用了Palantir公司的Maven智能系统，该系统也集成了Anthropic公司的Claude人工智能，用于分析监视数据、创建目标清单并实现目标优先级排序。伊朗境内被打击的许多目标是民用设施，包括一所学校、医疗保健设施和居民区，这说明了快速生成目标的风险。作为回应，伊朗袭击了位于阿拉伯联合酋长国和巴林境内的亚马逊云科技数据中心，以“识别这些中心在支持敌人军事和情报活动中的作用”，这可能指的是在亚马逊云科技服务器上托管集成了Anthropic公司Claude人工智能的Palantir人工智能平台。

人脸识别软件是另一个主要应用案例。例如，以色列已在加沙和约旦河西岸两地推出了大规模人脸识别计划。在约旦河西岸，以色列国防军使用一系列系统访问名为“狼群”的数据库，该数据库存储巴勒斯坦人信息。安装在检查站的“红狼”系统和安装在以色列士兵智能手机上的“蓝狼”系统，会自动将巴勒斯坦人的生物特征数据录入“狼群”数据库，该数据库创建巴勒斯坦人的情报档案并与其国内安全机构辛贝特共享。此类广泛且非自愿的人脸识别计划违反了国际人权法的保护规定，包括隐私权（《公民及政治权利国际公约》第十七条）。

该地区其他参与者正试图追赶。伊朗前最高领袖赛义德·阿里·哈梅内伊曾呼吁该国“掌握人工智能”，尽管伊朗进展的细节无法独立核实。阿拉伯联合酋长国目前尚无实质的人工智能系统，但国有防务集团EDGE正在收购以色列人工智能无人机探测公司Thirdeye Systems 30%的股份，并开始与美国武器制造商Anduril组建合资企业，共同生产具备人工智能增强能力的无人机。土耳其武器制造商STM和Baykar Defense率先推出了配备人工智能图像处理软件的无人机；据报道，前者生产的Kargu无人机曾于2020年在利比亚攻击哈利法·哈夫塔尔将军的部队。

商业赋能者

这些技术背后是一个庞大而复杂的商业供应商网络。其中一些是具有明确国家安全目的的公司，例如美国的Palantir和以色列的Corsight AI。以色列与Palantir于2024年签署了战略合作伙伴关系，以“利用Palantir的先进技术支持与战争相关的任务”。

然而，许多其他商业供应商并未将其人工智能功能专门训练用于特定安全或军事功能。亚马逊、Anthropic、谷歌、微软和OpenAI等大型科技公司已向包括美国和以色列在内的各国国防部提供人工智能产品。谷歌与以色列国防部2024年的一份合同草案凸显了后者预先存在的独家访问云基础设施的“着陆区”，以及为军事单位创建特定“着陆区”的新计划。

根据“卷云计划”的条款，以色列国有以色列航空航天工业公司和拉斐尔先进防御系统公司必须使用亚马逊和谷歌提供的云服务来满足其云计算需求。由于以色列在国际刑事法院和国际法院被指控犯有战争罪、危害人类罪和种族灭绝罪，其与商业供应商日益加深的合作可能使这些供应商面临国内和国际法框架下的责任风险。

监管拼图的缺失

国际法通过国际人道法及相关国际人权法保护，规范了武力的允许和禁止使用——包括涉及使用人工智能军事技术的行为。关键原则包括：区分军民，即区分平民和战斗员，并禁止直接以平民和民用物体为目标（《第一附加议定书》第四十八条和第五十二条；《核武器咨询意见》确认的习惯国际法）；相称性，即禁止造成过度的平民伤害；必要性，即限制军事武力；以及隐私权。

虽然国际人道法治理框架针对并约束国家层面的行为体，但国家可以通过将这些规定实施并纳入其国内法律框架，并依据对国际犯罪的普遍管辖原则，为商业实体设定并强制执行义务。瑞典是允许以此种方式追究公司刑事责任的法域之一，目前正在对两名前能源高管涉嫌在苏丹协助和教唆战争罪进行审判。

然而，目前尚无具有约束力的国际法规来涵盖人工智能军事技术的特定风险和使用。相反，一系列宣言和决议的拼凑应对了人工智能与军事关联的某些方面。联合国大会关于人工智能军事技术的第79/239号决议确认，由人工智能赋能军事系统受国际人道法和国际人权法管辖。2023年11月由28个国家签署的《布莱切利宣言》呼吁基于国际合作进行负责任的创新。由美国主导、得到58个国家赞同的《负责任军事使用人工智能和自主性政治宣言》呼吁人工智能的军事用途遵守国际法，要求人类监督人工智能的使用，并呼吁各国采取措施尽量减少意外偏见。然而，这些文书的不具约束力性质，限制了其对人工智能军事技术使用施加法律和伦理约束的有效性。

许多商业人工智能供应商在其人权政策中明确提及《联合国工商业与人权指导原则》。这些原则指出，工商企业应“将造成或促成严重侵犯人权行为的风险视为法律合规问题”（原则第23(c)条），并引用未能如此行可能导致的民事责任和刑事责任。虽然这些原则不具有法律约束力，但将其纳入公司的人权政策，就创造了商业供应商应遵守的内部义务。

国内法域中的供应链尽职调查义务是商业实体可能面临诉讼的一条途径。人权非政府组织爱尔兰公民自由委员会已要求爱尔兰数据保护委员会调查其对微软代表以色列处理巴勒斯坦人群体监视数据的投诉。可以想见，未来诉讼可能扩展到人工智能的商业供应商。为此，一个法律倡导团体联盟最近通知微软，有“可信依据”认定该公司——通过向以色列提供服务——在“以色列对加沙巴勒斯坦人口犯下严重罪行中扮演了直接角色”，使微软在国际和国内法院层面面临民事和刑事责任风险。

在调查性报道披露以色列使用微软Azure服务器托管巴勒斯坦人群体监视数据后，一项外部调查发现，8200部队违反了微软的服务条款，存储了违反国际人权法的群体监视数据，包括被拦截的通话。尽管微软已终止8200部队的访问权限，但许多其他以色列实体仍保留对微软服务的访问权限。一群微软股东也提交了一项提案，要求调查微软就其技术被以色列使用所进行的人权尽职调查程序的力度，但该提案未获通过。

科技公司采用各种方法来规避公司治理机制。例如，OpenAI和谷歌已悄然更改其使用条款，插入“国家安全”豁免条款，并删除了禁止客户将人工智能用于武器和监视目的的承诺。与此同时，调查记者审查谷歌和亚马逊与以色列签订的12亿美元“卷云计划”合同时发现，合同包含限制谷歌和亚马逊限制以色列政府当局使用其技术能力的条款，据报道该交易包括一项条款，禁止亚马逊和谷歌在以色列被认定违反其服务条款时暂停以色列的访问权限。据报道，“卷云计划”还包括一项创建秘密“眨眼机制”的条款，亚马逊和谷歌承诺通过该机制向以色列秘密示意有第三国命令两家公司中的任何一家交出以色列数据。亚马逊和谷歌均否认了这些指控。

展望

人工智能军事技术预计将继续在中东战场上扩散，扩大对平民和民用物体造成的损害，并加剧人道主义危机。其中许多技术也正在冲突区域外应用于预测性警务和大众公共监控，使潜在的国际人权法违规行为全球化。在缺乏充分问责的情况下，中东已成为人工智能军事技术的试验场，随后这些技术作为“经过实战检验”的产品在国际市场上销售。