The persistent militarization of large reasoning models stems not from technical necessity but from governance arrangements that strip researchers of meaningful authority to refuse harmful transfers and deployments. Existing accountability mechanisms such as model cards and responsible AI statements operate as reputational signals detached from decision making architecture. We identify institutional veto power as a missing governance primitive: a formal authority to halt subsequent use or distribution of research when credible risks of weaponization emerge. Drawing on precedents in nuclear nonproliferation and biomedical ethics, the paper maps unprotected veto points across the research lifecycle, diagnose why compliance without enforceable constraints fails, and offer concrete institutional designs that embed veto authority while reducing the risk of political capture. The paper argues that communities most vulnerable to military uses must lead governance design, and that institutional veto power is a prerequisite for converting symbolic safeguards into enforceable responsibility and for achieving meaningful model disarmament.


翻译:大型推理模型的持续军事化并非源于技术必要性,而是源于治理安排剥夺了研究人员拒绝有害技术转移与部署的实质性权力。现有的问责机制(如模型卡片和负责任AI声明)仅作为声誉信号存在,与决策架构相脱节。本文将机构否决权识别为一种缺失的治理原语:当武器化风险显现时,阻止研究成果后续使用或分发的正式授权。借鉴核不扩散与生物医学伦理领域的先例,本文系统梳理研究生命周期中缺乏保护的否决节点,诊断为何缺乏强制约束的合规机制必然失效,并提出具体的制度设计方案——在嵌入否决权的同时降低政治俘获风险。本文主张最易受军事应用影响的群体必须主导治理设计,并指出机构否决权是将象征性保障转化为可执行责任、实现实质性模型裁军的前提条件。

0
下载
关闭预览

相关内容

设计是对现有状的一种重新认识和打破重组的过程,设计让一切变得更美。
军事决策大语言模型综合评价基准
专知会员服务
18+阅读 · 4月1日
《军事大语言模型的拒绝率测量与消除》
专知会员服务
13+阅读 · 3月13日
代理式人工智能时代的决策优势
专知会员服务
30+阅读 · 2025年10月10日
认知优势:人工智能在国家安全决策中的核心作用
专知会员服务
14+阅读 · 2025年8月16日
中文版 | 领导力:人工智能在决策中的定位
专知会员服务
18+阅读 · 2025年7月7日
军事决策中的人工智能:支持人类,而非取代人类
专知会员服务
63+阅读 · 2024年9月10日
国家自然科学基金
119+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
VIP会员
最新内容
以色列军事技术对美国军力发展的持续性赋能
专知会员服务
5+阅读 · 今天8:46
《深度强化学习在兵棋推演中的应用》40页报告
专知会员服务
8+阅读 · 今天5:37
《多域作战面临复杂现实》
专知会员服务
6+阅读 · 今天5:35
《印度的多域作战:条令与能力发展》报告
专知会员服务
2+阅读 · 今天5:24
人工智能赋能无人机:俄乌战争(万字长文)
专知会员服务
7+阅读 · 4月23日
国外海军作战管理系统与作战训练系统
专知会员服务
3+阅读 · 4月23日
相关VIP内容
相关资讯
相关基金
国家自然科学基金
119+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员