The integration of AI agents into economic markets fundamentally alters the landscape of strategic interaction. We investigate the economic implications of expanding the set of available technologies in three canonical game-theoretic settings: bargaining (resource division), negotiation (asymmetric information trade), and persuasion (strategic information transmission). We find that simply increasing the choice of AI delegates can drastically shift equilibrium payoffs and regulatory outcomes, often creating incentives for regulators to proactively develop and release technologies. Conversely, we identify a strategic phenomenon termed the "Poisoned Apple" effect: an agent may release a new technology, which neither they nor their opponent ultimately uses, solely to manipulate the regulator's choice of market design in their favor. This strategic release improves the releaser's welfare at the expense of their opponent and the regulator's fairness objectives. Our findings demonstrate that static regulatory frameworks are vulnerable to manipulation via technology expansion, necessitating dynamic market designs that adapt to the evolving landscape of AI capabilities.


翻译:将AI代理整合到经济市场中,从根本上改变了战略互动的格局。我们在三个经典博弈论场景中研究了可用技术集合扩张的经济影响:议价(资源分配)、谈判(非对称信息交易)和说服(战略性信息传递)。我们发现,仅仅增加AI代理的选择就能显著改变均衡收益与监管结果,这常常会激励监管机构主动开发和发布技术。相反,我们发现了一种被称为“毒苹果”效应的战略现象:一个代理可能发布一项新技术,而该技术最终既不会被其自身也不会被对手使用,其目的纯粹是为了操纵监管机构选择对其有利的市场设计。这种战略性发布以提高发布者福利为代价,损害了对手的利益和监管机构的公平目标。我们的研究结果表明,静态监管框架容易受到技术扩张的操纵,因此需要能够适应AI能力不断演变格局的动态市场设计。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
中文版 | 数据投毒:AI驱动战争中优势地位的隐蔽武器
人工智能对指控领域的影响
专知会员服务
35+阅读 · 2024年11月20日
智能化“混合战争”及其影响和治理
专知会员服务
29+阅读 · 2024年7月21日
人工智能与博弈论的融合:彻底改变战略决策
专知会员服务
66+阅读 · 2024年1月23日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员