军事系统正日益采用基于机器学习的解决方案,以提高其所提供产品与服务的速度、质量和成本效益。学习型模型为开发可能优于使用手工编码算法构建的复杂系统的能力提供了可能性。然而,机器学习技术日益增长的复杂性,使得难以确保机器学习模型在可靠性、鲁棒性和安全性方面的行为。将两种不同的正交性保证方法结合已显现出价值,并且在不久的将来,支持这种组合方法的工具将被开发出来。
军事系统正日益采用基于机器学习的解决方案,以提高其所提供产品与服务的速度、质量和成本效益。学习型模型为开发可能优于使用手工编码算法构建的复杂系统的能力提供了可能性。然而,机器学习技术日益增长的复杂性,使得难以确保机器学习模型在可靠性、鲁棒性和安全性方面的行为。对于使用机器学习模型的系统而言,这通常是一个更棘手的问题,因为大多数为传统编码能力开发的软件保证流程并不适用。虽然这对许多应用而言可能不是严重问题,但那些在关键任务场景下由军方使用的系统则需要更高级别的保证。在安全相关系统领域,长期以来存在着研究保证的文化。这些工作的成果包括美国国防部采用的“严格等级”方法[,以及许多其他组织(包括美国国家航空航天局)使用的基于“可靠性论证”的方法。严格等级方法根本上试图证明在能力开发过程中已采取了适当程度的审慎措施。可靠性论证则基于法律案件的论证思路。通过论证展示顶层的安全主张如何得到客观证据的支持。此类保证论证将人员、流程与技术一并纳入考量。由于可靠性论证基于法律案件,并首先应用于工程安全领域,很自然地,它们也可用于论证人工智能能力的合法和/或伦理使用。同样地,可以论证,无论是严格等级方法还是保证论证,都可应用于保证关键任务系统,而不论需要防范的风险类型为何,其目的都是为了确保任务完成。