Continuous Integration (CI) is widely used to provide rapid feedback on code changes; however, CI build outcomes are not always reliable. Builds may fail intermittently due to non-deterministic factors, leading to flaky builds that undermine developers' trust in CI, waste computational resources, and threaten the validity of CI-related empirical studies. In this paper, we present a large-scale empirical study of flaky builds in GitHub Actions based on rerun data from 1,960 open-source Java projects. Our results show that 3.2% of builds are rerun, and 67.73% of these rerun builds exhibit flaky behavior, affecting 1,055 (51.28%) of the projects. Through an in-depth failure analysis, we identify 15 distinct categories of flaky failures, among which flaky tests, network issues, and dependency resolution issues are the most prevalent. Building on these findings, we propose a machine learning-based approach for detecting flaky failures at the job level. Compared with a state-of-the-art baseline, our approach improves the F1-score by up to 20.3%.


翻译:持续集成(CI)被广泛用于提供代码变更的快速反馈;然而,CI构建结果并非总是可靠的。由于非确定性因素,构建可能会间歇性失败,导致不稳定构建,从而削弱开发者对CI的信任、浪费计算资源,并威胁到CI相关实证研究的有效性。本文基于对1,960个开源Java项目的重运行数据,对GitHub Actions中的不稳定构建进行了大规模实证研究。我们的研究结果表明,有3.2%的构建被重运行,其中67.73%的重运行构建表现出不稳定行为,影响了1,055个(占51.28%)项目。通过深入的故障分析,我们识别出15种不同类型的不稳定故障,其中不稳定测试、网络问题和依赖解析问题最为普遍。基于这些发现,我们提出了一种基于机器学习的方法,用于在作业级别检测不稳定故障。与最先进的基线方法相比,我们的方法将F1分数提高了高达20.3%。

0
下载
关闭预览

相关内容

【新书】GitHub操作实战,257页pdf
专知会员服务
55+阅读 · 2024年10月25日
《不确定性下的生成式模型适应性规划》
专知会员服务
32+阅读 · 2024年8月8日
分布式系统稳定性建设指南2022年(100页pdf)
专知会员服务
25+阅读 · 2022年6月24日
八个不容错过的 GitHub Copilot 功能!
CSDN
11+阅读 · 2022年9月22日
「PPT」深度学习中的不确定性估计
专知
27+阅读 · 2019年7月20日
你的算法可靠吗? 神经网络不确定性度量
专知
40+阅读 · 2019年4月27日
用模型不确定性理解模型
论智
11+阅读 · 2018年9月5日
占坑!利用 JenKins 持续集成 iOS 项目时遇到的问题
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员