AI-assisted software development has moved from line-level autocomplete to agents that can plan changes, edit files, and submit pull requests with limited human supervision. Open-source software, however, evolves through a process designed for humans: contributor agreements, codes of conduct, and review norms all assume a legally accountable person who can attest to provenance and answer reviewer questions. Autonomous and semi-autonomous AI contributors strain those assumptions, and the 2025-2026 record of agent-driven incidents, AI-generated nuisance volume, and platform-level shutdowns shows that the gap is operationally consequential. Several open-source organisations have responded with contribution policies, but the result is fragmented, and its alignment with emerging AI governance frameworks (EU AI Act, NIST AI RMF with the UC Berkeley Agentic AI Profile, ISO/IEC 42001 and 23894) is unmapped at the contribution level. We compare policies across six organisations (SymPy, LLVM, matplotlib, OpenInfra, the Apache Software Foundation, and the Linux Foundation) using Most-Similar Systems Design with indicator-based coding and process tracing for SymPy and LLVM. From this we derive a six-dimensional taxonomy (disclosure, responsibility, human oversight, licensing, enforcement, maintainer workload), an ordinal Policy Maturity Score, and a mapping of documented agent incidents onto the dimensions each policy fails to govern. Aligning the dimensions with the regulatory frameworks above identifies overlapping gaps neither side currently closes, and we close by sketching the shape of a harmonised tiered framework and the empirical evaluation needed to calibrate it.


翻译:人工智能辅助软件开发已从单行代码自动补全演进为能够在有限人类监督下规划变更、编辑文件并提交拉取请求的智能体。然而,开源软件的演进机制专为人类设计:贡献者协议、行为准则和审查规范均假定存在一个能证明代码来源并回答审阅问题的法律责任人。自主及半自主AI贡献者打破了这些假设,2025-2026年间由智能体驱动的事件记录、AI生成的干扰性内容激增以及平台级关停表明,这一差距已产生操作性后果。部分开源组织已制定贡献政策予以回应,但结果碎片化,其与新兴AI治理框架(欧盟AI法案、附加州大学伯克利分校代理型AI配置文件的NIST AI风险管理框架、ISO/IEC 42001及23894)在贡献层面的对齐尚未得到研究。我们采用最相似系统设计法(结合指标编码与过程追踪),对六个组织(SymPy、LLVM、matplotlib、OpenInfra、Apache软件基金会、Linux基金会)的政策进行比较研究。由此推导出六维分类体系(披露、责任、人类监督、许可、执行、维护者工作量)、序数型政策成熟度评分,并将已记录的智能体事件映射至各政策未能治理的维度上。将上述维度与监管框架对齐后,发现了双方均未填补的重叠缺口。我们最后勾勒了协调的分层政策框架雏形,以及校准该框架所需的实证评估方法。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
《结合机器人行为以实现安全、智能的执行》
专知会员服务
17+阅读 · 2023年7月4日
【资源】机器学习资源大列表
专知
58+阅读 · 2019年10月16日
AI可解释性文献列表
专知
43+阅读 · 2019年10月7日
21个必须知道的机器学习开源工具!
AI100
13+阅读 · 2019年9月13日
概述自动机器学习(AutoML)
人工智能学家
19+阅读 · 2019年8月11日
搜狗开源机器阅读理解工具箱
专知
19+阅读 · 2019年5月16日
国家自然科学基金
15+阅读 · 2016年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
7+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
6+阅读 · 6月17日
相关VIP内容
《结合机器人行为以实现安全、智能的执行》
专知会员服务
17+阅读 · 2023年7月4日
相关基金
国家自然科学基金
15+阅读 · 2016年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员