军事系统正日益采用基于机器学习的解决方案,以提高其所提供产品与服务的速度、质量和成本效益。学习型模型为开发可能优于使用手工编码算法构建的复杂系统的能力提供了可能性。然而,机器学习技术日益增长的复杂性,使得难以确保机器学习模型在可靠性、鲁棒性和安全性方面的行为。将两种不同的正交性保证方法结合已显现出价值,并且在不久的将来,支持这种组合方法的工具将被开发出来。

军事系统正日益采用基于机器学习的解决方案,以提高其所提供产品与服务的速度、质量和成本效益。学习型模型为开发可能优于使用手工编码算法构建的复杂系统的能力提供了可能性。然而,机器学习技术日益增长的复杂性,使得难以确保机器学习模型在可靠性、鲁棒性和安全性方面的行为。对于使用机器学习模型的系统而言,这通常是一个更棘手的问题,因为大多数为传统编码能力开发的软件保证流程并不适用。虽然这对许多应用而言可能不是严重问题,但那些在关键任务场景下由军方使用的系统则需要更高级别的保证。在安全相关系统领域,长期以来存在着研究保证的文化。这些工作的成果包括美国国防部采用的“严格等级”方法[,以及许多其他组织(包括美国国家航空航天局)使用的基于“可靠性论证”的方法。严格等级方法根本上试图证明在能力开发过程中已采取了适当程度的审慎措施。可靠性论证则基于法律案件的论证思路。通过论证展示顶层的安全主张如何得到客观证据的支持。此类保证论证将人员、流程与技术一并纳入考量。由于可靠性论证基于法律案件,并首先应用于工程安全领域,很自然地,它们也可用于论证人工智能能力的合法和/或伦理使用。同样地,可以论证,无论是严格等级方法还是保证论证,都可应用于保证关键任务系统,而不论需要防范的风险类型为何,其目的都是为了确保任务完成。

成为VIP会员查看完整内容
20

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
《人工智能使能系统可靠性框架》
专知会员服务
20+阅读 · 4月27日
《作战研究是实现战场人工智能潜力的关键》
专知会员服务
38+阅读 · 4月8日
《机器学习为军事战术行动提供安全保障 》
专知会员服务
25+阅读 · 2024年8月8日
《可解释人工智能在人工智能辅助决策中的作用综述》
专知会员服务
62+阅读 · 2024年1月4日
可信任机器学习,34页ppt
专知会员服务
51+阅读 · 2022年11月29日
专知会员服务
60+阅读 · 2021年5月20日
人工智能和军备控制,80页pdf
专知
16+阅读 · 2022年11月2日
你的算法可靠吗? 神经网络不确定性度量
专知
40+阅读 · 2019年4月27日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2月23日
Arxiv
12+阅读 · 2023年9月21日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
6+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
相关基金
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员