Governance opacity over AI systems shifts in kind as capability asymmetry grows, and the strongest forms defeat the disclosure-based remedies governance ordinarily relies on. This paper applies a six-dimension framework from political theory (legitimacy, accountability, corrigibility, non-domination, subsidiarity, institutional resilience) to six AI governance arrangements already in operation, ordered by increasing capability asymmetry between system and overseer. Proprietary secrecy yields to disclosure at the low end, but at the high end the governed system either games its own evaluation or sits inside the governance process, and transparency remedies lose traction. Legitimacy and non-domination strain more consistently across the sample than corrigibility and resilience, which respond more readily to institutional design quality. The sample cannot separate institutional design maturity from capability asymmetry, and the patterns are offered as hypotheses for multi-rater validation.


翻译:随着能力不对称性的增长,人工智能系统的治理不透明性在性质上发生变化,最强形式击败了治理通常依赖的基于披露的补救措施。本文运用政治理论中的六维框架(合法性、问责性、可修正性、非支配性、辅助性原则、制度韧性),对六种已运行的人工智能治理安排进行分析,这些安排按系统与监管者之间能力不对称性的递增顺序排列。在低端,专有保密让位于披露,但在高端,被治理系统要么操纵自身的评估,要么嵌入治理过程内部,透明度补救措施失去效力。在整个样本中,合法性和非支配性维度的张力比可修正性和韧性维度更为一致,后者对制度设计质量响应更灵敏。该样本无法将制度设计成熟度与能力不对称性分开,这些模式作为假设供多人评审验证。

0
下载
关闭预览

相关内容

《军用AI智能体的治理框架》最新报告
专知会员服务
36+阅读 · 3月8日
人工智能治理全景综述
专知会员服务
20+阅读 · 2025年8月13日
《军事人工智能系统与透明度》最新报告
专知会员服务
27+阅读 · 2025年2月5日
可解释人工智能(XAI):从内在可解释性到大语言模型
专知会员服务
34+阅读 · 2025年1月20日
《提高决策支持系统透明度的可解释人工智能》最新100页
专知会员服务
52+阅读 · 2024年11月28日
人工智能安全挑战及治理研究
专知会员服务
67+阅读 · 2023年6月18日
人工智能与国家政治安全
专知会员服务
66+阅读 · 2022年6月29日
专知会员服务
85+阅读 · 2021年6月20日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
【人机融合智能】人机融合智能的现状与展望
产业智能官
12+阅读 · 2020年3月18日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
1+阅读 · 今天15:00
21世纪的无人机战争
专知会员服务
2+阅读 · 今天14:05
《量子技术的军事任务技术适配与利用》
专知会员服务
2+阅读 · 今天13:51
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
《军用AI智能体的治理框架》最新报告
专知会员服务
36+阅读 · 3月8日
人工智能治理全景综述
专知会员服务
20+阅读 · 2025年8月13日
《军事人工智能系统与透明度》最新报告
专知会员服务
27+阅读 · 2025年2月5日
可解释人工智能(XAI):从内在可解释性到大语言模型
专知会员服务
34+阅读 · 2025年1月20日
《提高决策支持系统透明度的可解释人工智能》最新100页
专知会员服务
52+阅读 · 2024年11月28日
人工智能安全挑战及治理研究
专知会员服务
67+阅读 · 2023年6月18日
人工智能与国家政治安全
专知会员服务
66+阅读 · 2022年6月29日
专知会员服务
85+阅读 · 2021年6月20日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员