The rapid development of artificial intelligence (AI) has led to increasing concerns about the capability of AI systems to make decisions and behave responsibly. Responsible AI (RAI) refers to the development and use of AI systems that benefit humans, society, and the environment while minimising the risk of negative consequences. To ensure responsible AI, the risks associated with AI systems' development and use must be identified, assessed and mitigated. Various AI risk assessment frameworks have been released recently by governments, organisations, and companies. However, it can be challenging for AI stakeholders to have a clear picture of the available frameworks and determine the most suitable ones for a specific context. Additionally, there is a need to identify areas that require further research or development of new frameworks, as well as updating and maintaining existing ones. To fill the gap, we present a mapping study of 16 existing AI risk assessment frameworks from the industry, governments, and non-government organizations (NGOs). We identify key characteristics of each framework and analyse them in terms of RAI principles, stakeholders, system lifecycle stages, geographical locations, targeted domains, and assessment methods. Our study provides a comprehensive analysis of the current state of the frameworks and highlights areas of convergence and divergence among them. We also identify the deficiencies in existing frameworks and outlines the essential characteristics of a concrete and connected framework AI risk assessment (C$^2$AIRA) framework. Our findings and insights can help relevant stakeholders choose suitable AI risk assessment frameworks and guide the design of future frameworks towards concreteness and connectedness.


翻译:人工智能的快速发展引发了对AI系统决策与负责任行为能力的日益关注。负责任人工智能(RAI)旨在开发和使用能够造福人类、社会与环境,同时最小化负面后果风险的AI系统。为确保负责任的AI,必须识别、评估并缓解与AI系统开发和应用相关的风险。近期,政府、组织和企业发布了多种AI风险评估框架。然而,AI利益相关方难以全面了解现有框架并确定特定场景下的最适选择。此外,亟需识别需要进一步研究或开发新框架的领域,并更新和维护现有框架。为填补这一空白,我们对来自行业、政府及非政府组织(NGO)的16个现有AI风险评估框架进行了映射研究。我们识别了每个框架的关键特征,并从RAI原则、利益相关方、系统生命周期阶段、地理区域、目标领域及评估方法等方面进行分析。本研究提供了对框架现状的全面分析,揭示了框架间的趋同与分歧领域。我们还指出了现有框架的不足,并勾勒了具体与互联的AI风险评估(C$^2$AIRA)框架的核心特征。我们的发现与见解可帮助相关利益方选择合适的AI风险评估框架,并指导未来框架设计向具体性与互联性方向发展。

0
下载
关闭预览

相关内容

【干货书】物联网,298页pdf
专知会员服务
57+阅读 · 2023年1月18日
Cancer Cell综述|AI用于肿瘤学中的多模态数据集成
专知会员服务
35+阅读 · 2022年10月13日
Artificial Intelligence: Ready to Ride the Wave? BCG 28页PPT
专知会员服务
28+阅读 · 2022年2月20日
 100页!IEEE标准协会《脑机接口神经技术标准路线图》
专知会员服务
35+阅读 · 2022年2月13日
【如何做研究】How to research ,22页ppt
专知会员服务
114+阅读 · 2021年4月17日
零样本文本分类,Zero-Shot Learning for Text Classification
专知会员服务
97+阅读 · 2020年5月31日
迈向可验证的 AI: 形式化方法的五大挑战
THU数据派
3+阅读 · 2022年7月20日
VCIP 2022 Call for Demos
CCF多媒体专委会
1+阅读 · 2022年6月6日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
已删除
德先生
53+阅读 · 2019年4月28日
【泡泡一分钟】用于评估视觉惯性里程计的TUM VI数据集
泡泡机器人SLAM
11+阅读 · 2019年1月4日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
AI界的State of the Art都在这里了
机器之心
12+阅读 · 2018年12月10日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2023年5月15日
Arxiv
0+阅读 · 2023年5月14日
Arxiv
17+阅读 · 2021年1月21日
VIP会员
最新内容
俄乌战争中关于中程打击无人机部署的经验启示
专知会员服务
0+阅读 · 7分钟前
《基于强化学习的自动化红队测试》
专知会员服务
4+阅读 · 7月23日
伊朗不对称防空战略的演进
专知会员服务
4+阅读 · 7月23日
对抗环境下超视距目标打击的情报支援
专知会员服务
10+阅读 · 7月22日
《无人机对海面作战影响评估》
专知会员服务
15+阅读 · 7月21日
相关VIP内容
【干货书】物联网,298页pdf
专知会员服务
57+阅读 · 2023年1月18日
Cancer Cell综述|AI用于肿瘤学中的多模态数据集成
专知会员服务
35+阅读 · 2022年10月13日
Artificial Intelligence: Ready to Ride the Wave? BCG 28页PPT
专知会员服务
28+阅读 · 2022年2月20日
 100页!IEEE标准协会《脑机接口神经技术标准路线图》
专知会员服务
35+阅读 · 2022年2月13日
【如何做研究】How to research ,22页ppt
专知会员服务
114+阅读 · 2021年4月17日
零样本文本分类,Zero-Shot Learning for Text Classification
专知会员服务
97+阅读 · 2020年5月31日
相关资讯
迈向可验证的 AI: 形式化方法的五大挑战
THU数据派
3+阅读 · 2022年7月20日
VCIP 2022 Call for Demos
CCF多媒体专委会
1+阅读 · 2022年6月6日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
已删除
德先生
53+阅读 · 2019年4月28日
【泡泡一分钟】用于评估视觉惯性里程计的TUM VI数据集
泡泡机器人SLAM
11+阅读 · 2019年1月4日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
AI界的State of the Art都在这里了
机器之心
12+阅读 · 2018年12月10日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员