The overall rapid increase of artificial intelligence (AI) use is linked to various initiatives that propose AI 'for good'. However, there is a lack of transparency in the goals of such projects, as well as a missing evaluation of their actual impacts on society and the planet. We close this gap by proposing public interest and sustainability as a regulatory dual-concept, together creating the necessary framework for a just and sustainable development that can be operationalized and utilized for the assessment of AI systems. Based on this framework, and building on existing work in auditing, we introduce the Impact-AI-method, a qualitative audit method to evaluate concrete AI projects with respect to public interest and sustainability. The interview-based method captures a project's governance structure, its theory of change, AI model and data characteristics, and social, environmental, and economic impacts. We also propose a catalog of assessment criteria to rate the outcome of the audit as well as to create an accessible output that can be debated broadly by civil society. The Impact-AI-method, developed in a transdisciplinary research setting together with NGOs and a multi-stakeholder research council, is intended as a reusable blueprint that both informs public debate about AI 'for good' claims and supports the creation of transparency of AI systems that purport to contribute to a just and sustainable development.


翻译:人工智能(AI)应用的全面快速增长与各类倡导“向善”AI的倡议密切相关。然而,此类项目的目标缺乏透明度,且对其社会与地球实际影响的评估亦存在缺失。我们通过提出将公共利益与可持续性作为一个监管双重概念来填补这一空白,二者共同构建了一个可操作化并用于评估AI系统的、促进公正与可持续发展的必要框架。基于此框架,并借鉴现有审计工作,我们引入了Impact-AI方法——一种用于评估具体AI项目在公共利益与可持续性方面的定性审计方法。这一基于访谈的方法涵盖项目的治理结构、变革理论、AI模型与数据特征,以及社会、环境与经济影响。我们还提出了一套评估标准目录,用于评定审计结果并生成可供公民社会广泛讨论的易懂成果。Impact-AI方法在与非政府组织及多方利益相关者研究委员会合作进行的跨学科研究环境中开发,旨在作为一个可复用的蓝图,既为关于“向善”AI主张的公共讨论提供信息,也支持那些声称有助于公正与可持续发展的AI系统提高透明度。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
《人工智能辅助决策面临的三大挑战》
专知会员服务
85+阅读 · 2023年12月15日
译文 |《人工智能军事应用:对战争的影响》
专知会员服务
141+阅读 · 2023年2月21日
可信赖人工智能在医学影像应用
专知会员服务
41+阅读 · 2022年5月7日
最新《可解释人工智能》概述,50页ppt
专知
12+阅读 · 2021年3月17日
【智能装备】人工智能对装备制造业的影响分析
产业智能官
10+阅读 · 2018年6月9日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
25+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月1日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
25+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员