BigCloneBench is widely used to evaluate traditional clone detection and, more recently, machine learning approaches to semantic clone detection and functional similarity. This paper demonstrates that BigCloneBench's Weakly Type-3/Type-4 (WT3/T4) subset is problematic as ground truth for learning or evaluating functional similarity. Its tagged-tagged WT3/T4 clone pairs combine two methods labelled as true positives for the same functionality and do not contain exemplar functions. A population-weighted analysis of a stratified probability sample of 406 such pairs estimated that 93.9% of pairs in the eligible tagged-tagged WT3/T4 population are not functionally similar under our operational definition and are therefore mislabelled (conservative 95% confidence interval: 91.5%-96.2%). From a literature review of 179 papers, we estimate that 128 used BigCloneBench to evaluate semantic clone detection in a way that their results could be affected by the mislabelling. High F1 scores on BigCloneBench do not establish whether an approach has learned functional similarity or relied on dataset-specific shortcuts. Our study does not assess BigCloneBench's validity for evaluating syntactic or textual clone detection of Type-1, Type-2, and Type-3 clones. We acknowledge its important contributions to traditional clone detection research. However, using its WT3/T4 subset as ground truth for same-main-function similarity without validating its labels for that task constitutes misuse. By threatening the validity of a substantial body of reported results, this practice has harmed the evidence base of semantic clone detection. We encourage more critical and responsible use of benchmarks and datasets and more rigorous validation during dataset creation and use.


翻译:暂无翻译

0
下载
关闭预览

相关内容

ICLR 2026 | DataMind: 构建通用数据分析智能体
专知会员服务
16+阅读 · 3月29日
DeepSeek部署、使用及安全深度报告(附PPT下载)
专知会员服务
66+阅读 · 2025年3月5日
数据驱动的具身学习探索
专知会员服务
18+阅读 · 2025年2月26日
干净的数据:数据清洗入门与实践,204页pdf
专知会员服务
164+阅读 · 2020年5月14日
【电子书】大数据挖掘,Mining of Massive Datasets,附513页PDF
专知会员服务
105+阅读 · 2020年3月22日
【MIT博士论文】数据高效强化学习,176页pdf
DeepMind开源最牛无监督学习BigBiGAN预训练模型
新智元
10+阅读 · 2019年10月10日
深度学习中Attention Mechanism详细介绍:原理、分类及应用
深度学习与NLP
10+阅读 · 2019年2月18日
Single-Shot Object Detection with Enriched Semantics
统计学习与视觉计算组
14+阅读 · 2018年8月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
论文浅尝 | Question Answering over Freebase
开放知识图谱
19+阅读 · 2018年1月9日
大数据分析研究组开源Easy Machine Learning系统
中国科学院网络数据重点实验室
17+阅读 · 2017年6月13日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Arxiv
0+阅读 · 11月3日
Deep Anomaly Detection with Outlier Exposure
Arxiv
17+阅读 · 2018年12月21日
VIP会员
最新内容
《美空军2026条令文件:对海压制作战》
专知会员服务
11+阅读 · 11月9日
人工智能与战争的未来
专知会员服务
4+阅读 · 11月8日
《Agent Mosaic:识别智能体LLM系统中的机密泄露》
人工智能在军事教育中的应用:若干视角与经验
“星链”减速与不断适应的乌克兰
专知会员服务
7+阅读 · 11月6日
美国中期选举之后:帕兰提尔面临不确定性?
专知会员服务
4+阅读 · 11月6日
相关VIP内容
ICLR 2026 | DataMind: 构建通用数据分析智能体
专知会员服务
16+阅读 · 3月29日
DeepSeek部署、使用及安全深度报告(附PPT下载)
专知会员服务
66+阅读 · 2025年3月5日
数据驱动的具身学习探索
专知会员服务
18+阅读 · 2025年2月26日
干净的数据:数据清洗入门与实践,204页pdf
专知会员服务
164+阅读 · 2020年5月14日
【电子书】大数据挖掘,Mining of Massive Datasets,附513页PDF
专知会员服务
105+阅读 · 2020年3月22日
相关资讯
【MIT博士论文】数据高效强化学习,176页pdf
DeepMind开源最牛无监督学习BigBiGAN预训练模型
新智元
10+阅读 · 2019年10月10日
深度学习中Attention Mechanism详细介绍:原理、分类及应用
深度学习与NLP
10+阅读 · 2019年2月18日
Single-Shot Object Detection with Enriched Semantics
统计学习与视觉计算组
14+阅读 · 2018年8月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
论文浅尝 | Question Answering over Freebase
开放知识图谱
19+阅读 · 2018年1月9日
大数据分析研究组开源Easy Machine Learning系统
中国科学院网络数据重点实验室
17+阅读 · 2017年6月13日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员