数据是开发和支持人工智能(AI)系统的重要组成部分,因此数据生命周期(包括收集、准备和整理)是人工智能生命周期的重要组成部分。确保数据的一致性、正确性和预期用途的代表性对于确保人工智能系统的有效性至关重要。数据验证、确认和认证(VV&A)就是为了满足这一需求。由于高质量的数据是人工智能模型的基础,因此整个美国防部人工智能功能和分析工具的普及率急剧上升,这强调了统一理解数据 VV&A 的必要性。在实践中,数据 VV&A 和相关活动通常以临时方式使用,这可能会限制支持开发和测试人工智能能力的能力。然而,现有的美国防部数据 VV&A 框架和政策适用于人工智能生命周期,并体现了对人工智能系统测试和评估的重要支持活动。我们强调了数据 VV&A 的重要性,并讨论了 DODI 5000.61 对人工智能模型及其相关数据的适用性。仅仅依靠政策中的定义会在解释和实施方面留下问题,因此讨论了一些潜在的关注点和最佳实践,包括在人工智能系统生命周期的背景下考虑数据的 VV&A,鼓励可重复性和透明度,以及利用现有框架和工具支持 VV&A。

美国防部对VV&A 数据的需求

  • 目的:为模型、模拟、分布式模拟及其相关数据的 VV&A 制定政策、分配职责并规定程序。

  • 适用性: 国防部各部门开发、使用、提供或管理的模型和模拟及相关数据,包括非国防部组织为支持国防部流程、产品或程序而使用的模型和模拟及相关数据。

  • 政策:

    • 用于支持国防部流程、产品和决策的模型、模拟和相关数据应在其整个生命周期内进行验证和确认 (V&V)。

    • 用于支持美国防部流程、产品和决策的模型、模拟和相关数据应根据预期用途进行认证。

成为VIP会员查看完整内容
37

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
《军事场景中的视觉分析探索》2023最新124页技术报告
专知会员服务
82+阅读 · 2023年3月2日
《NASA先进信息系统中的机器学习》2022.11最新49页slides
专知会员服务
48+阅读 · 2023年2月25日
【硬核书】数据科学,282页pdf
专知
26+阅读 · 2022年11月29日
国家自然科学基金
18+阅读 · 2017年12月31日
国家自然科学基金
13+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
31+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
Arxiv
176+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
501+阅读 · 2023年3月31日
Arxiv
182+阅读 · 2023年3月24日
Arxiv
27+阅读 · 2023年3月17日
VIP会员
最新内容
超越网格:作战环境对炮兵的影响
专知会员服务
2+阅读 · 5月31日
BES:让语言模型通过双向进化搜索自我改进
专知会员服务
6+阅读 · 5月30日
以色列-美国-伊朗战争中的无人机:关键要点
专知会员服务
7+阅读 · 5月30日
《Palantir任务保障性软件安全标准(MA-S2)》
专知会员服务
19+阅读 · 5月30日
基于声学的无人机检测技术综述
专知会员服务
11+阅读 · 5月30日
《当代混合战争分析框架:俄乌战争经验教训》
专知会员服务
10+阅读 · 5月30日
相关基金
国家自然科学基金
18+阅读 · 2017年12月31日
国家自然科学基金
13+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
31+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员