In an era of "moving fast and breaking things", regulators have moved slowly to pick up the safety, bias, and legal debris left in the wake of broken Artificial Intelligence (AI) deployment. While there is much-warranted discussion about how to address the safety, bias, and legal woes of state-of-the-art AI models, rigorous and realistic mathematical frameworks to regulate AI are lacking. Our paper addresses this challenge, proposing an auction-based regulatory mechanism that provably incentivizes agents (i) to deploy compliant models and (ii) to participate in the regulation process. We formulate AI regulation as an all-pay auction where enterprises submit models for approval. The regulator enforces compliance thresholds and further rewards models exhibiting higher compliance than their peers. We derive Nash Equilibria demonstrating that rational agents will submit models exceeding the prescribed compliance threshold. Empirical results show that our regulatory auction boosts compliance rates by 20% and participation rates by 15% compared to baseline regulatory mechanisms, outperforming simpler frameworks that merely impose minimum compliance standards.


翻译:在"快速行动、打破常规"的时代,监管机构行动迟缓,未能及时清理因人工智能(AI)部署不当而遗留的安全、偏见和法律碎片。尽管针对如何解决先进AI模型的安全、偏见和法律困境已有诸多必要讨论,但缺乏严谨且符合实际的数学框架来监管AI。本文针对这一挑战,提出了一种基于拍卖的监管机制,该机制可证明地激励智能体(i)部署合规模型,并(ii)参与监管过程。我们将AI监管形式化为一个全支付拍卖,其中企业提交模型以供审批。监管机构设定合规阈值,并对表现出比同行更高合规性的模型给予奖励。我们推导出纳什均衡,证明理性智能体将提交超过规定合规阈值的模型。实证结果表明,与基准监管机制相比,我们的监管拍卖将合规率提高了20%,参与率提高了15%,优于仅设定最低合规标准的简单框架。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
《人工智能使能系统可靠性框架》
专知会员服务
20+阅读 · 4月27日
人工智能治理全景综述
专知会员服务
22+阅读 · 2025年8月13日
人工智能治理的未来
专知会员服务
31+阅读 · 2025年8月3日
人工智能如何增强军事监控与边境安全
专知会员服务
22+阅读 · 2025年3月20日
机密计算保障人工智能系统安全研究报告
专知会员服务
20+阅读 · 2025年1月20日
【AI与警务】人工智能在打击组织性犯罪方面的挑战
专知会员服务
25+阅读 · 2022年6月28日
专知会员服务
65+阅读 · 2021年7月5日
央行发布《人工智能算法金融应用评价规范》,28页pdf
专知会员服务
76+阅读 · 2021年5月2日
人工智能和军备控制,80页pdf
专知
17+阅读 · 2022年11月2日
【人机融合智能】人机融合智能的现状与展望
产业智能官
12+阅读 · 2020年3月18日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
智能时代如何构建金融反欺诈体系?
数据猿
12+阅读 · 2018年3月26日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月1日
VIP会员
最新内容
致命七类无人机:无人机时代的演进型合成兵种
专知会员服务
1+阅读 · 19分钟前
《异构无人水面艇集群作战自主制导算法》130页
《人工智能能通过美国陆军战争学院吗?》报告
军事域人工智能驱动系统的治理
专知会员服务
4+阅读 · 9月14日
相关VIP内容
《人工智能使能系统可靠性框架》
专知会员服务
20+阅读 · 4月27日
人工智能治理全景综述
专知会员服务
22+阅读 · 2025年8月13日
人工智能治理的未来
专知会员服务
31+阅读 · 2025年8月3日
人工智能如何增强军事监控与边境安全
专知会员服务
22+阅读 · 2025年3月20日
机密计算保障人工智能系统安全研究报告
专知会员服务
20+阅读 · 2025年1月20日
【AI与警务】人工智能在打击组织性犯罪方面的挑战
专知会员服务
25+阅读 · 2022年6月28日
专知会员服务
65+阅读 · 2021年7月5日
央行发布《人工智能算法金融应用评价规范》,28页pdf
专知会员服务
76+阅读 · 2021年5月2日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员