随着自主无人机蜂群日益被视为军事应用的候选方案,确保人类对蜂群行为保有“有意义控制”(Meaningful Human Control, MHC)已成为一项法律与伦理层面的双重要务。“有意义人类控制”概念虽已发展为应对此挑战的核心框架,但在具体作战场景中仍鲜经实证检验;与此同时,人机蜂群交互这一平行研究领域的发展,亦未系统参照MHC的各项要求。本研究旨在弥合这一鸿沟。通过一项基于仿真的军事监视场景用户实验,五名受试者借助图形用户界面操控半自主无人机蜂群。研究采用关键决策法记录并分析其交互行为,并将由此识别的控制失效映射至一个整合性MHC框架。本研究主要做出两方面贡献:其一,识别出横跨六大主题的32项具体控制局限,并将其映射至整合性MHC模型的技术层与社会技术层,具体揭示了系统在哪些环节未能满足MHC条件,以及这些条件本身在哪些层面界定不清;其二,提出了“硬性MHC”与“软性MHC”的区分。“硬性MHC”指那些为实现有意义控制所必需的基础性功能与二元化要求;“软性MHC”则关乎这些功能的质量与作战可用性,旨在捕捉仅凭规范性要求无法涵盖的、由设计介导产生的失效模式。上述贡献共同推进了MHC在操作层面的落地实施。
目 录
摘要
1 引言
1.1 研究问题与目的
2 相关工作
2.1 有意义的人类控制
2.2 人-蜂群交互
2.3 本研究的方法
3 方法
3.1 仿真环境
3.2 人机界面
3.3 无人机蜂群路径规划算法
3.4 仿真设置
3.5 实验设计
3.6 参与者
3.7 实验流程
3.8 分析方法
3.9 伦理考量
4 结果
4.1 时间线汇总
4.2 系统内的人类控制
4.3 控制失效
4.4 MHC与控制问题的映射关系
5 讨论
5.1 研究问题一:人类如何在系统内执行和维持控制?
5.2 研究问题二:人类在系统内何时会失去控制?
5.3 研究问题三:系统失效如何与人类控制原则进行比较?
5.4 理论探讨
5.5 方法探讨
5.6 未来研究
6 结论
参考文献
附录 A 参与者知情同意书
附录 B 人机界面介绍
附录 C 任务介绍(场景1和2)
附录 D 任务介绍(场景3)
附录 E 事件注入时间线
附录 F CDM探测记录
附录 G 时间线详情