人工智能与机器学习领域近期的突破性进展,已改变了商业市场,并显示出颠覆未来战场的潜力。然而,我们尚未观察到人工智能/机器学习在国防市场取得如同在商业市场那般显著程度的成功。引入“错误采办法”这一概念,其由研发工作的目的、范围和假设所界定。简而言之,许多概念开发者并未充分理解新的人工智能/机器学习技术,未能认识到其采办法各要素(目的、范围和假设)正相互掣肘,这严重阻碍了后续的研发。本文列举了限制军事领域利用人工智能/机器学习的错误采办法案例。我们为人工智能赋能项目的要求工程研究提出了四项纠正原则:(1)通过训练员与操控员驯服“野性AI”;(2)警惕“AI末日”(哪怕只是一点点);(3)避免“AI脑叶切断术”;(4)拥抱主要回报——速度。最后,本文认为,作战研究界最有条件通过教育、聚焦的方案分析以及对未来作战研究的建议,来帮助应用这四项原则并纠正采办法。

作战研究(OR)是实现战场人工智能的关键

人们可能会将人工智能/机器学习在军事系统应用上的滞后,归因于现代人工智能的相对新颖性,以及国防部相较于商业市场的缓慢起步。这固然属实,但对于发展颠覆性的人工智能/机器学习赋能军事系统而言,一个更大的制约因素是当前许多(即便不是大多数)研发工作所采用的错误采办法。本文将“错误采办法”概念作为军事人工智能/机器学习研发工作的项目章程引入。我们将错误采办法定义为一项其既定目的、范围和假设无法同时满足,但经过细微修改后即可合理满足的研发工作。换言之,该项目的章程至少存在一项内部冲突,如下列假设性案例所示:

  • 一个自主弹药项目,其目的是免除人类决策者在目标交战决策中的职责,但假设其自动目标识别神经网络仅需使用军事目标图像进行训练。一个更好的假设是,该神经网络还需对外观相似的非目标物进行训练,以使自动目标识别器能区分起重机与榴弹炮或导弹发射器。另一种解决方案是改变项目目的,即由人类操作员在审阅指定的目标图像后批准所有交战决策。另一种修正假设的方法是,仅将该弹药用于目标密集、可自由开火的区域。
  • 一个分析辅助工具,其目的是进行全源情报融合,但其范围却排除了输入先前的军事决策流程和战场情报准备分析。许多历史上的全源情报融合尝试都因这种“被实施了脑叶切断术”的章程而失败。“脑叶切断术”是一种切断前额叶皮层与大脑其他部分众多连接的医疗手术,这很好地比喻了那些范围有限但目的宽泛的项目。当一个全源情报融合推理系统被切断与必要的先期分析产品(如敌方行动方案或情报搜集计划)的联系时,它几乎不可能成功。

一个错误的采办法注定了研发工作只能取得有限的成功,无论其其他方面多么出色。较旧的技术也存在此现象,但对于人工智能/机器学习等新技术而言,这尤为普遍。这部分是由于缺乏对哪些战场任务适合应用人工智能/机器学习,以及对新技术的性能和局限性的了解。那些熟悉战场的人往往不了解人工智能/机器学习,而那些了解人工智能/机器学习的人又往往不熟悉战场。这就导致了章程拙劣的研发工作。作战研究界是解决这一普遍问题的关键,它通过在源头——即概念与要求制定阶段——纠正此类问题。

当前有缺陷的人工智能/机器学习采办法存在几个常见的陷阱。为协助作战研究专业人员及更广泛的采办界,本文将常见错误描述为纠正采办法的四项原则:

  • 通过训练员与操控员驯服野性AI
  • 警惕“AI末日”(哪怕只是一点点)
  • 避免“AI脑叶切断术”(信息孤岛)
  • 拥抱主要回报——速度

支持人工智能/机器学习采办工作的作战研究分析人员,应将这四项原则融入传统技术和方法中,以向概念和要求开发者传达合理的期望。总之,这四项原则可作为一份直观的检查清单,供精通人工智能/机器学习的作战研究分析人员使用,以确保概念、目的、范围和要求内部协调一致。然而,作战研究分析人员也应同时提高自身对人工智能/机器学习技术的普遍理解,并避免盲目、不加思考地遵循这些简化的经验法则。对国防技术信息中心门户网站的粗略检索表明,关于战场人工智能具体性能与局限性的已发表研究存在诸多空白。在更详细地阐述这些原则之后,本文将提出一系列研究课题,以帮助引导作战研究界更好地理解人工智能/机器学习在未来采办工作中的定位。

成为VIP会员查看完整内容
4

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《作战层面的人工智能》美国海军学院32页报告
专知会员服务
248+阅读 · 2022年12月17日
《人工智能在作战规划中的应用》北约科技组织18页论文
专知会员服务
149+阅读 · 2022年11月15日
人工智能和军备控制,80页pdf
专知
15+阅读 · 2022年11月2日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
333+阅读 · 2017年12月31日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
52+阅读 · 2015年12月31日
国家自然科学基金
63+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
96+阅读 · 2009年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
Arxiv
0+阅读 · 3月17日
Arxiv
0+阅读 · 2月15日
VIP会员
最新内容
《作战研究是实现战场人工智能潜力的关键》
专知会员服务
4+阅读 · 今天6:08
《军事训练与行动期间新鲜膳食营养保障》380页
专知会员服务
1+阅读 · 今天5:40
伊朗战争时间线:关键节点与袭击事件
专知会员服务
2+阅读 · 今天5:34
《面向海军应用的无人机网络安全仿真环境》
专知会员服务
11+阅读 · 4月7日
无人机与僵局:俄乌战争难以突破
专知会员服务
4+阅读 · 4月7日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
333+阅读 · 2017年12月31日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
52+阅读 · 2015年12月31日
国家自然科学基金
63+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
96+阅读 · 2009年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员