关于自主武器系统(AWS)的争论通常围绕人类控制展开:人类是否授权、监督或能够中断武力的使用。本文认为,人类在场并不能充分代表有效控制。更根本的问题是,一旦出现错误的证据,是否存在可行的纠正轨迹。这一属性被称为纠正可达性。一个自主武器系统可以在形式上受到监督,同时感知、解读、通信、决策和执行延迟消耗了在不可逆转变发生前的剩余时间。在部分可观测性、多模态传感器模糊性、通信降级、决策压力、多智能体交互以及保留纠正历史的自适应策略下,这一问题会加剧。本文区分了稳定性、安全性和可纠正性;将纠正建模为一个延迟受限的可达集问题;形式化了基于不确定性条件的可逆性原则;并提出可达未来封闭性作为升级的分级系统描述,通常涉及安全替代方案的部分或操作性丧失,而非字面意义上消除每一种可能的未来。这一论断是有条件的:当机器速度的行动收缩安全可达未来集合的速度快于监督过程所能维持或恢复这些集合的速度时,自主性就变得难以治理。该框架产生了八个可检验的假设、明确的证伪条件以及三个计算机制演示。第三个试点实验有意面向证伪:它拒绝了一个强泛化的内生多智能体升级版本,同时支持一个较窄的条件机制,在该机制中,互逆反应链与可达未来的急剧收缩相关联。
关键词:自主武器系统、有意义的人类控制、纠正可达性、可纠正性、升级、部分可观测性、多智能体系统、人机交互、纠正记忆、国际人道法