AI-enabled authoritarianism is not confined to autocracies. In this paper, we provide greater transparency by investigating and mapping the lifecycles of six AI systems deployed in different political regimes, ranging from the US to China. By drawing on an extensive range of sources (academic publications, investigative research reports, third-party evaluations, media interviews, government procurement notices), we conduct a systematic, qualitative comparison across systems to identify the critical technical and operational features that enable authoritarianism within their respective political contexts. We find that enabling features include the centralization and co-optation of administrative data for law enforcement and political punishment, regulatory gaps that fail to deter misuse, weak user compliance that nullifies human oversight mechanisms, and the encoding of protected group traits that identify members of vulnerable populations. We find that these features are present across systems deployed in autocratic and democratic regimes, albeit in varying configurations. We also find that both centralized and fragmented AI systems can contribute to authoritarianism by exploiting governance gaps: centralized systems directed by executive authorities, particularly within security and military institutions, are often not subjected to formal oversight mechanisms, while fragmented systems diffuse accountability between stakeholders, paving the way for entrenchment. These findings reveal that AI-enabled authoritarianism is distributed, resulting from design and operational choices made by developers, administrators, and users alike. We conclude with recommendations for developers and policymakers to mitigate these risks.


翻译:人工智能驱动的威权主义并非威权国家的专属。本文通过考察和映射部署在不同政治体制(从美国到中国)的六个人工智能系统的生命周期,提供了更高的透明度。基于广泛资料来源(学术论文、调查研究报告、第三方评估、媒体访谈、政府采购公告),我们对这些系统进行了系统性的定性比较,以识别在其各自政治背景下促成威权主义的关键技术和操作特征。研究发现,促成特征包括:将行政数据集中化并纳入执法和政治惩处用途;未能阻止滥用的监管漏洞;弱化人类监督机制的合规缺陷;以及编码识别弱势群体成员受保护群体特征。我们发现这些特征以不同配置同时存在于威权国家和民主国家部署的系统中。我们还发现,集中式和碎片化的人工智能系统都可能通过利用治理漏洞助长威权主义:由行政当局(特别是安全与军事机构)指导的集中式系统往往不受正式监督机制约束,而碎片化系统则分散了利益相关者之间的责任,为系统固化铺平道路。这些发现揭示,人工智能驱动的威权主义具有分布性特征,源于开发者、管理者与用户共同做出的设计与操作选择。最后,我们为开发者和政策制定者提出了缓解这些风险的建议。

0
下载
关闭预览

相关内容

《可信人工智能赋能系统的支柱》
专知会员服务
21+阅读 · 2月26日
《人工智能军事化与自主武器》
专知会员服务
30+阅读 · 1月6日
人工智能、模块化开放系统架构和未来无人战争
专知会员服务
87+阅读 · 2024年4月4日
基于人工智能的自主系统:军事的未来
专知会员服务
57+阅读 · 2024年1月25日
《人工智能在军事武器系统中的崛起》
专知会员服务
159+阅读 · 2023年3月21日
人工智能与国家政治安全
专知会员服务
66+阅读 · 2022年6月29日
面向人工智能的计算机体系结构
计算机研究与发展
14+阅读 · 2019年6月6日
人工智能的现状与未来(附PPT)
人工智能学家
76+阅读 · 2019年3月27日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
4+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
6+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
3+阅读 · 6月17日
相关VIP内容
《可信人工智能赋能系统的支柱》
专知会员服务
21+阅读 · 2月26日
《人工智能军事化与自主武器》
专知会员服务
30+阅读 · 1月6日
人工智能、模块化开放系统架构和未来无人战争
专知会员服务
87+阅读 · 2024年4月4日
基于人工智能的自主系统:军事的未来
专知会员服务
57+阅读 · 2024年1月25日
《人工智能在军事武器系统中的崛起》
专知会员服务
159+阅读 · 2023年3月21日
人工智能与国家政治安全
专知会员服务
66+阅读 · 2022年6月29日
相关基金
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员