The persistent militarization of large reasoning models stems not from technical necessity but from governance arrangements that strip researchers of meaningful authority to refuse harmful transfers and deployments. Existing accountability mechanisms such as model cards and responsible AI statements operate as reputational signals detached from decision making architecture. We identify institutional veto power as a missing governance primitive: a formal authority to halt subsequent use or distribution of research when credible risks of weaponization emerge. Drawing on precedents in nuclear nonproliferation and biomedical ethics, the paper maps unprotected veto points across the research lifecycle, diagnose why compliance without enforceable constraints fails, and offer concrete institutional designs that embed veto authority while reducing the risk of political capture. The paper argues that communities most vulnerable to military uses must lead governance design, and that institutional veto power is a prerequisite for converting symbolic safeguards into enforceable responsibility and for achieving meaningful model disarmament.


翻译:大型推理模型的持续军事化并非源于技术必要性,而是源于治理安排剥夺了研究人员拒绝有害技术转移与部署的实质性权力。现有的问责机制(如模型卡片和负责任AI声明)仅作为声誉信号存在,与决策架构相脱节。本文将机构否决权识别为一种缺失的治理原语:当武器化风险显现时,阻止研究成果后续使用或分发的正式授权。借鉴核不扩散与生物医学伦理领域的先例,本文系统梳理研究生命周期中缺乏保护的否决节点,诊断为何缺乏强制约束的合规机制必然失效,并提出具体的制度设计方案——在嵌入否决权的同时降低政治俘获风险。本文主张最易受军事应用影响的群体必须主导治理设计,并指出机构否决权是将象征性保障转化为可执行责任、实现实质性模型裁军的前提条件。

0
下载
关闭预览

相关内容

设计是对现有状的一种重新认识和打破重组的过程,设计让一切变得更美。
军事决策大语言模型综合评价基准
专知会员服务
20+阅读 · 4月1日
《军事大语言模型的拒绝率测量与消除》
专知会员服务
14+阅读 · 3月13日
代理式人工智能时代的决策优势
专知会员服务
32+阅读 · 2025年10月10日
认知优势:人工智能在国家安全决策中的核心作用
专知会员服务
16+阅读 · 2025年8月16日
中文版 | 领导力:人工智能在决策中的定位
专知会员服务
20+阅读 · 2025年7月7日
军事决策中的人工智能:支持人类,而非取代人类
专知会员服务
65+阅读 · 2024年9月10日
国家自然科学基金
122+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
VIP会员
最新内容
驱动军事决策变革的顶尖人工智能指挥系统
专知会员服务
6+阅读 · 8月11日
非对称防御中的自组织临界性:俄乌战争
专知会员服务
10+阅读 · 8月10日
《战争中的大语言模型监管》
专知会员服务
12+阅读 · 8月10日
《边缘计算关键技术分析及美军作战实践应用》
边缘计算的军事应用
专知会员服务
12+阅读 · 8月9日
一种考虑资源机动性的武器目标分配混合算法
专知会员服务
13+阅读 · 8月8日
相关VIP内容
相关资讯
相关基金
国家自然科学基金
122+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员