A formal mechanism is presented in which a willing regulator-matchmaker fosters cooperation on resources among participants in the AGI race, collects a Pigouvian tax based on the speed-up it induces, and invests the proceeds into alignment research. The construction is derived in the continuous-time options framework of Tan (2025) in which cooperation is treated as a jump in the underlying asset value of participating players, the Pigouvian component is matched to the marginal effect of increasing expected loss, and the total collected fund endogenizes the rate of learning on safety. It is shown how the framework allows for determining participation and optimal activity levels. Conditions under which it is optimal to enter the market are derived, and it is proven that if the orthogonality condition holds between the supported portfolio and the abilities component, the Suicide Region collapses at finite time, and the upper bound for this time is derived as sum of a deterministic and random term. Finally, if orthogonality is violated, it is proven that enhancing matchmaker capacity does not recover the market's superiority. The construction links research areas including two-sided markets, Pigouvian taxes, self-regulatory organizations, private law enforcement, evolutionary modeling of AI races, real options and option games, measurement of comparative progress and analysis of the Suicide Region.


翻译:本文提出一种正式机制:有意愿的监管者-匹配机构通过促进通用人工智能(AGI)竞赛参与者之间的资源合作,依据其导致的加速效应征收庇古税,并将所获收益投入人工智能安全对齐研究。该构建基于Tan(2025)的连续时间期权框架,其中合作被视为参与方标的资产价值的跳跃,庇古成分与预期损失边际增量的影响相匹配,所募集资金则内生化安全知识的学习速率。本文展示了该框架如何确定参与及最优活动水平,推导了进入市场的最优条件,并证明:若支持的投资组合与能力成分之间满足正交条件,则自杀区域将在有限时间内坍缩,且该时间上界可表示为确定性项与随机项之和。最后,若正交条件被违反,则证明增强匹配机构能力无法恢复市场优越性。该构建将以下研究领域相关联:双边市场、庇古税、自律组织、私人执法、人工智能竞赛演化建模、实物期权与期权博弈、比较进展度量及自杀区域分析。

0
下载
关闭预览

相关内容

设计是对现有状的一种重新认识和打破重组的过程,设计让一切变得更美。
《通往人工通用智能之路上的均衡策略》
专知会员服务
11+阅读 · 6月3日
创造优势:在整个作战领域整合人工智能
专知会员服务
36+阅读 · 2024年12月12日
将人工智能集成到指挥控制系统中
专知会员服务
85+阅读 · 2024年1月1日
可解释人工智能中的对抗攻击和防御
专知会员服务
43+阅读 · 2023年6月20日
AI赋能C2《敏捷指挥与控制》76页报告,澳大利亚国防部
专知会员服务
96+阅读 · 2023年3月13日
CALDERA 一款对手自动模拟工具
黑白之道
20+阅读 · 2019年9月17日
重磅发布:基于 PyTorch 的深度文本匹配工具 MatchZoo-py
中国科学院网络数据重点实验室
16+阅读 · 2019年8月26日
推荐算法:Match与Rank模型的交织配合
从0到1
15+阅读 · 2017年12月18日
深度文本匹配开源工具(MatchZoo)
机器学习研究会
10+阅读 · 2017年12月5日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2012年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
最新内容
印度精确打击与指挥架构的断层
专知会员服务
4+阅读 · 7月20日
美空军AI完成F-16战斗机自主空战历史性试飞
专知会员服务
6+阅读 · 7月20日
深入Project Maven:为何人工智能在战场上依然失灵
锻造未来士兵:外骨骼、基因工程与赛博格
专知会员服务
7+阅读 · 7月19日
《无人机蜂群通信技术研究》50页
专知会员服务
10+阅读 · 7月19日
相关基金
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2012年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员