军事系统正日益采用基于机器学习的解决方案,以提高其所提供产品与服务的速度、质量和成本效益。学习型模型为开发可能优于使用手工编码算法构建的复杂系统的能力提供了可能性。然而,机器学习技术日益增长的复杂性,使得难以确保机器学习模型在可靠性、鲁棒性和安全性方面的行为。将两种不同的正交性保证方法结合已显现出价值,并且在不久的将来,支持这种组合方法的工具将被开发出来。

军事系统正日益采用基于机器学习的解决方案,以提高其所提供产品与服务的速度、质量和成本效益。学习型模型为开发可能优于使用手工编码算法构建的复杂系统的能力提供了可能性。然而,机器学习技术日益增长的复杂性,使得难以确保机器学习模型在可靠性、鲁棒性和安全性方面的行为。对于使用机器学习模型的系统而言,这通常是一个更棘手的问题,因为大多数为传统编码能力开发的软件保证流程并不适用。虽然这对许多应用而言可能不是严重问题,但那些在关键任务场景下由军方使用的系统则需要更高级别的保证。在安全相关系统领域,长期以来存在着研究保证的文化。这些工作的成果包括美国国防部采用的“严格等级”方法[,以及许多其他组织(包括美国国家航空航天局)使用的基于“可靠性论证”的方法。严格等级方法根本上试图证明在能力开发过程中已采取了适当程度的审慎措施。可靠性论证则基于法律案件的论证思路。通过论证展示顶层的安全主张如何得到客观证据的支持。此类保证论证将人员、流程与技术一并纳入考量。由于可靠性论证基于法律案件,并首先应用于工程安全领域,很自然地,它们也可用于论证人工智能能力的合法和/或伦理使用。同样地,可以论证,无论是严格等级方法还是保证论证,都可应用于保证关键任务系统,而不论需要防范的风险类型为何,其目的都是为了确保任务完成。

成为VIP会员查看完整内容
2

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《作战研究是实现战场人工智能潜力的关键》
专知会员服务
21+阅读 · 4月8日
《机器学习为军事战术行动提供安全保障 》
专知会员服务
24+阅读 · 2024年8月8日
《可解释人工智能在人工智能辅助决策中的作用综述》
专知会员服务
61+阅读 · 2024年1月4日
【伯克利博士论文】可信赖机器学习,227页pdf
专知会员服务
89+阅读 · 2022年12月12日
可信任机器学习,34页ppt
专知会员服务
50+阅读 · 2022年11月29日
专知会员服务
60+阅读 · 2021年5月20日
人工智能和军备控制,80页pdf
专知
15+阅读 · 2022年11月2日
你的算法可靠吗? 神经网络不确定性度量
专知
40+阅读 · 2019年4月27日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2月18日
VIP会员
最新内容
大模型错因诊断分析
专知会员服务
0+阅读 · 今天14:58
视频生成基础模型进展
专知会员服务
0+阅读 · 今天14:53
《军事对抗环境中移动自组网的时敏信道分配》
专知会员服务
2+阅读 · 今天14:24
《关键任务型人工智能的可靠性》
专知会员服务
2+阅读 · 今天14:16
《对流层散射系统在军事通信网络中的应用前景》
人工智能军事技术在中东地区的扩散
专知会员服务
3+阅读 · 今天5:45
《军用5G基本战术网络研究与仿真》
专知会员服务
8+阅读 · 今天5:37
相关VIP内容
相关基金
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员