Governance theory has always presumed cognitive comparability between governors and governed. This paper identifies that unstated assumption, constructs a framework that makes it testable, and shows that it is load-bearing. The framework specifies necessary conditions along six dimensions (legitimacy, accountability, corrigibility, non-domination, subsidiarity, and institutional resilience), synthesized from political legitimacy theory, principal-agent models, republican political theory, and AI alignment research. Applied first to existing institutions and then to a prospective case of bounded superintelligent authority where capability asymmetry is radical, the framework finds structural failures on four of six dimensions. Among these, two are design-tractable and two are theory-requiring: the public reason problem under cognitive incomprehensibility and the non-domination problem under permanent capability asymmetry demand genuinely new normative frameworks, not better institutional design. A further finding is that dimensions which function as independent checks under bounded asymmetry become correlated failures under radical asymmetry. The analysis contributes to political theory by exposing foundational assumptions that have gone unexamined because, until now, they have always been satisfied.


翻译:治理理论始终预设治理者与被治理者之间的认知可比性。本文识别出这一未言明的假设,构建了一个使其可检验的框架,并证明该假设具有承重性。该框架综合政治合法性理论、委托-代理模型、共和政治理论与人工智能对齐研究,沿六个维度(合法性、问责性、可修正性、非支配性、辅助性与制度韧性)规定了必要充分条件。将该框架首先应用于现有制度,继而应用于能力不对称达到极端的有限超级智能权威假想案例后,发现其在六个维度中的四个维度上存在结构性失效。其中两个维度的失效可通过设计手段解决,另两个维度则依赖理论突破:因认知不可理解性产生的公共理性问题,以及因永久能力不对称产生的非支配问题,需要全新的规范性框架而非更优的制度设计。另一发现是:在有限不对称下充当独立制衡的维度,在极端不对称下会转化为相关性失效。本分析通过揭示因长期满足而未经审视的基础性假设,为政治理论领域做出贡献。

0
下载
关闭预览

相关内容

制度是包括为社会生活提供稳定性和意义的强制性、规范性和文化认同性要素所构成的社会活动和资源。
《人工智能安全治理框架》2.0版发布,90页pdf
专知会员服务
23+阅读 · 2025年10月8日
人工智能治理的未来
专知会员服务
30+阅读 · 2025年8月3日
《人工智能安全治理框架》1.0版发布
专知会员服务
31+阅读 · 2024年9月9日
清华大学崔鹏:可信智能决策框架及实践
专知会员服务
76+阅读 · 2023年5月1日
面向多智能体博弈对抗的对手建模框架
专知
18+阅读 · 2022年9月28日
【综述】多智能体强化学习算法理论研究
深度强化学习实验室
16+阅读 · 2020年9月9日
不对称多代理博弈中的博弈理论解读
AI前线
14+阅读 · 2018年3月8日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
36+阅读 · 2008年12月31日
VIP会员
最新内容
ICML 2026 | CFPO:用反事实策略优化提升多模态推理
专知会员服务
1+阅读 · 今天14:45
综述 | 世界动作模型:少做梦,多行动
专知会员服务
1+阅读 · 今天14:43
美以伊冲突:无人机与人工智能的运用
专知会员服务
3+阅读 · 今天14:31
《特种部队在透明战场中的生存力》最新报告
专知会员服务
2+阅读 · 今天14:11
《人工智能生成的零日漏洞:对未来作战的影响》
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
8+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
36+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员