要求由人工批准每一次致命交战——即所谓“人在环内(HITL)”——实质上已名存实亡,成为乌克兰战争的又一牺牲品。然而,要求指挥官对其指挥下的作战行动承担责任的法则依然有效。这两句表述之间的张力,揭示了当目标打击决策向机器迁移时出现的“责任鸿沟”:现有框架难以对机器的行为归责。本文提出一种旨在弥合此鸿沟的框架。
法律所要求的人类责任,应从单一的目标打击环节,转移至程序选择与地图标定相结合的模式。换言之,指挥官应将机器自主权的层级,与经认证的系统能力以及按风险分级、限时划定的战区空间相绑定。
现代战场上的“人在环内”
HITL控制基于三项假设:通信链路畅通、决策时间充裕、操作员注意力尚有富余。乌克兰战争已动摇了这三项假设。
乌克兰无人系统部队指挥官描述,在战线两侧纵深约25公里的区域内,无人机饱和部署使得机动近乎自杀。其他评估则将这一地带划定在15至20公里且仍在扩大,其间车辆机动困难甚至无法实施。在该地带内,干扰常态化切断操作员链路,导致现场无人机在接触目标后完成的自动末端制导失效。此类情况下,人工干预往往止于数百米外的目标锁定。即便链路尚存,海量目标也会淹没操作员的注意力。据操作员报告,交战节奏已超出其有效研判的极限。乌克兰的既定发展路径是减少操作员数量,转而监管更多飞行器,并逐步实现全自主交战。
此非断言HITL全然不可行。光纤无人机可提供抗干扰链路,且宽松环境下仍允许实施审慎的攻击审批。核心论点在于,单次交战的人工控制无法作为核心保障措施,因其所依赖的条件恰恰是现代电子战致力消除的环境。一种仅在理想条件下才有效的保障措施,实则比没有更糟,因为在数秒内批准机器生成目标的操作员并未行使真正的判断权,这通常只是将机器的判断通过人工签名进行“洗白”。坚持HITL会导致逻辑矛盾,正如英国武装部队国务大臣近期一方面坚称“必须确保人在环内”,另一方面又主张“必要时必须将人移出环路”时所暴露的那样。
人类责任
任何情况均不能免除指挥官对其指挥下作战行动的责任。无论目标打击精度如何提高,人工智能系统本身并不承担伦理或法律义务。武装冲突法约束的是规划与指挥作战的人类,而使用自主系统的指挥官实质上是在使用一种武器。区分原则、比例原则及预防原则的义务,始终由指挥官及其所属国家承担。
为使此项责任具有实质意义,它必须附着于指挥官实际行使的判断行为之上。当单次交战的决策隐入机器之后,若相关决策未能被准确定位,责任鸿沟便随之产生。伦理与法律责任只能附着于人类的选择,因此我们必须甄别并凸显指挥官能够以人类认知速度、基于充分信息做出的选择。
问题不在于指挥官是否仍需负责——他们必须负责。问题在于我们应将伦理与法律意义附着于哪些决策之上。遗憾的是,答案往往语焉不详。例如,当北约指挥控制界探讨人类必须在哪些岗位上持续担责时,其结论仅是“取决于特定时刻决策的影响”。我们需要更为精确的界定。
程序选择
解决方案的一部分在于为机器遴选适宜的程序。此处的“程序”指代系统在触发时刻前被指令执行的一切行为:可交战的目标类别、适用的交战规则以及行使的自主层级。选择程序本身即属人类判断行为。该决策是审慎的、有记录的,并以人类认知速度执行。
程序选择在海战领域已有实践。在装备“宙斯盾”系统的战舰上,指挥官并不批准每一次拦截,而是从多种作战原则中择一,针对不同预期威胁混合配置自主层级,系统则在选定程序框架内执行。英国政府通信总部前主任戴维·奥蒙德曾提出一项通用方案:将武装冲突法核查清单编码为指挥官赋予的权重,由机器据此进行优化,全程留痕且可审计,从而使责任追溯至“设定权重的指挥官”。北约空中力量理论家亦得出类似结论:事态演进越快,人类越需从“环内”移至“环上”,保留否决权,并将全自主权限定在预先定义的例外情境中。
然而,程序选择并非完整解决方案,原因如下。首先,程序选择未必适用于所有武器系统。战舰作为一种低速机动、以防御为主的系统,人机比高,等待指挥官选择程序具备可行性。但对于高速机动进攻性资产集群而言,适宜的程序可能随街区与小时更迭,逐平台调整程序很快变得不切实际。
其次,适宜的程序会随环境变化。单次出击任务中,攻击无人机可能穿越居民村落、友军排级阵地及敌方无人地带。单一程序难以适配所有场景,而按最保守情形设定程序,则会丧失自主性带来的大部分优势。
再次,任务中途变更无人机程序需依赖连通性。如前所述,可靠连通性的缺失正是我们需要自主性的初衷之一。若指挥官在关键时刻无法变更程序,则该程序便不具备实际效用。
地图标定
解决方案的另一部分基于指挥官掌控的另一变量:战区空间。自主系统应携带经认证的能力评级,以反映我们对其执行特定程序能力的置信度;指挥官则应为作战区域的每一部分划定风险等级,并匹配相应的自主权限上限,且设定时间界限。
在划定为低风险的单元格(即不含平民及友军)内,获准对特定目标类别实施自主交战且评级达标的系统,可在指定时间窗口内行使全权。在包含医院的单元格内,权限上限则相应下调。仅评级更高的系统方可做出目标决策:若机器及其运行模式评级足够高,则可自主决策;否则须在直接人工控制下实施。系统穿越这些区域时,程序变更无需接收外部指令,而是基于发射前载入的地图边界或时钟节点自动触发。
位置与时间可作为可行的控制变量,因其执行未必依赖实时链路。发射前载入的边界随载具同行,惯性导航与机载时钟等系统在干扰及GPS拒止环境下仍能持续运行。尽管失去外部基准参照时机载导航会产生漂移,但漂移量是可量化的工程参数。这同样服务于认证逻辑:若系统的定位不确定性超出某单元格的容限,则不应获准在该区域自主运行。此类系统亦可设计为故障安全模式。当时间窗口关闭或边界被跨越时,系统将自动切换至最严格模式,直至载入新的标定指令。
各国军队早已对杀伤力实施时空管控。基于网格坐标单元格按时激活与解除的杀伤箱、禁射区、限制作战区乃至已宣告的雷场,均是使指挥官对特定区域的判断对武器使用产生约束力的工具。在火力支援协调措施中引入自主维度,是对成熟条令语法的延伸。这也符合法律规定:区分与比例原则本质上多是基于环境的判断,取决于平民分布、军事优势所在及特定地点打击的风险。时空标定正是对此类分析的映射。
国防人工智能工程师已构建出“无论接收何种指令均强制生效”的架构限制,用于保障救生型军用无人机的安全。将其应用于武器系统符合现行实践。这回应了“杀手机器人能否‘内置道德’”的疑问——伦理判断可被编码于作战包线之中。
在时空标定机制下,指挥官实施了一项具体、有记录的判断行为:划分单元格;依据各系统认证评级及运行模式设定其自主权限上限;激活该区域并设定时限。每一道边界均有制定者、评级、时间戳及有效期。若活跃单元格内发生交战失误,调查即可指向可回答的问题:绘制该单元格时分类是否准确?认证是否真实有效?鉴于作战需求,标定是否得当?这有助于弥合上述责任鸿沟。
质疑与局限
即便引入程序选择与地图标定,严峻的伦理与法律问题并未消失。正确设定标定并在战局变动中维持其准确性,才是真正的挑战。平民风险与军事效能之间的权衡将始终存在。此外,认证评级本身并非安全保证。然而,这些问题均属我们熟稔之范畴。参谋机构本就负责生成与处理战场标定所需的情报。自主系统认证虽难臻完美,却是我们必须面对的挑战。
人工智能在实时单元格分类方面亦有望超越人类。届时,应欢迎机器起草的覆盖层。但涉及程序设定与单元格标定的决策,必须保留在人类手中。与单次交战审批不同,此类决策可细化至人类能够审慎研判与决断的颗粒度。
结语
单次交战的人工控制正走向失效,因其在极端战场条件下已证明难以为继。若一味否认,只会造就一个在并非真正决策者的人类“洗白”机器判断的世界。我们必须将伦理与法律关切聚焦于战场指挥官实际能够做出的决策之上。
程序选择(包括设定权重、规则或模式)是解决方案的一部分,但其单独实施仍沿袭了对实时人工干预的脆弱依赖。将程序与地图相结合——即将自主层级与认证评级及按风险分级、限时划定的空间标定相绑定——方能实现审慎的人类判断与可追溯的责任归属。
https://lieber.westpoint.edu/beyond-human-loop-battlefield-maps-drone-autonomy/