关于自主武器系统(AWS)的争论通常围绕人类控制展开:人类是否授权、监督或能够中断武力的使用。本文认为,人类在场并不能充分代表有效控制。更根本的问题是,一旦出现错误的证据,是否存在可行的纠正轨迹。这一属性被称为纠正可达性。一个自主武器系统可以在形式上受到监督,同时感知、解读、通信、决策和执行延迟消耗了在不可逆转变发生前的剩余时间。在部分可观测性、多模态传感器模糊性、通信降级、决策压力、多智能体交互以及保留纠正历史的自适应策略下,这一问题会加剧。本文区分了稳定性、安全性和可纠正性;将纠正建模为一个延迟受限的可达集问题;形式化了基于不确定性条件的可逆性原则;并提出可达未来封闭性作为升级的分级系统描述,通常涉及安全替代方案的部分或操作性丧失,而非字面意义上消除每一种可能的未来。这一论断是有条件的:当机器速度的行动收缩安全可达未来集合的速度快于监督过程所能维持或恢复这些集合的速度时,自主性就变得难以治理。该框架产生了八个可检验的假设、明确的证伪条件以及三个计算机制演示。第三个试点实验有意面向证伪:它拒绝了一个强泛化的内生多智能体升级版本,同时支持一个较窄的条件机制,在该机制中,互逆反应链与可达未来的急剧收缩相关联。

关键词:自主武器系统、有意义的人类控制、纠正可达性、可纠正性、升级、部分可观测性、多智能体系统、人机交互、纠正记忆、国际人道法

成为VIP会员查看完整内容
2

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
VIP会员
最新内容
《美陆军最新条令出版物 2-0 情报》
专知会员服务
3+阅读 · 今天1:25
电子战测试与训练靶场:战前验证战备状态
专知会员服务
1+阅读 · 今天1:06
《美国陆军如何作战》46页最新报告
专知会员服务
2+阅读 · 今天0:58
《人工智能在军事行动中的伦理问题》30页报告
专知会员服务
3+阅读 · 今天0:51
数据中心战:电磁战与传统机动的淘汰
专知会员服务
6+阅读 · 10月8日
2026年词元(Token)经济发展全景研究报告
专知会员服务
8+阅读 · 10月6日
微信扫码咨询专知VIP会员