人工智能与机器学习领域近期的突破性进展,已改变了商业市场,并显示出颠覆未来战场的潜力。然而,我们尚未观察到人工智能/机器学习在国防市场取得如同在商业市场那般显著程度的成功。引入“错误采办法”这一概念,其由研发工作的目的、范围和假设所界定。简而言之,许多概念开发者并未充分理解新的人工智能/机器学习技术,未能认识到其采办法各要素(目的、范围和假设)正相互掣肘,这严重阻碍了后续的研发。本文列举了限制军事领域利用人工智能/机器学习的错误采办法案例。我们为人工智能赋能项目的要求工程研究提出了四项纠正原则:(1)通过训练员与操控员驯服“野性AI”;(2)警惕“AI末日”(哪怕只是一点点);(3)避免“AI脑叶切断术”;(4)拥抱主要回报——速度。最后,本文认为,作战研究界最有条件通过教育、聚焦的方案分析以及对未来作战研究的建议,来帮助应用这四项原则并纠正采办法。
作战研究(OR)是实现战场人工智能的关键
人们可能会将人工智能/机器学习在军事系统应用上的滞后,归因于现代人工智能的相对新颖性,以及国防部相较于商业市场的缓慢起步。这固然属实,但对于发展颠覆性的人工智能/机器学习赋能军事系统而言,一个更大的制约因素是当前许多(即便不是大多数)研发工作所采用的错误采办法。本文将“错误采办法”概念作为军事人工智能/机器学习研发工作的项目章程引入。我们将错误采办法定义为一项其既定目的、范围和假设无法同时满足,但经过细微修改后即可合理满足的研发工作。换言之,该项目的章程至少存在一项内部冲突,如下列假设性案例所示:
一个错误的采办法注定了研发工作只能取得有限的成功,无论其其他方面多么出色。较旧的技术也存在此现象,但对于人工智能/机器学习等新技术而言,这尤为普遍。这部分是由于缺乏对哪些战场任务适合应用人工智能/机器学习,以及对新技术的性能和局限性的了解。那些熟悉战场的人往往不了解人工智能/机器学习,而那些了解人工智能/机器学习的人又往往不熟悉战场。这就导致了章程拙劣的研发工作。作战研究界是解决这一普遍问题的关键,它通过在源头——即概念与要求制定阶段——纠正此类问题。
当前有缺陷的人工智能/机器学习采办法存在几个常见的陷阱。为协助作战研究专业人员及更广泛的采办界,本文将常见错误描述为纠正采办法的四项原则:
支持人工智能/机器学习采办工作的作战研究分析人员,应将这四项原则融入传统技术和方法中,以向概念和要求开发者传达合理的期望。总之,这四项原则可作为一份直观的检查清单,供精通人工智能/机器学习的作战研究分析人员使用,以确保概念、目的、范围和要求内部协调一致。然而,作战研究分析人员也应同时提高自身对人工智能/机器学习技术的普遍理解,并避免盲目、不加思考地遵循这些简化的经验法则。对国防技术信息中心门户网站的粗略检索表明,关于战场人工智能具体性能与局限性的已发表研究存在诸多空白。在更详细地阐述这些原则之后,本文将提出一系列研究课题,以帮助引导作战研究界更好地理解人工智能/机器学习在未来采办工作中的定位。