Property-based testing is a mainstay of functional programming, boasting a rich literature, an enthusiastic user community, and an abundance of tools~ -- so many, indeed, that new users may have difficulty choosing. Moreover, any given framework may support a variety of strategies for generating test inputs; even experienced users may wonder which are better in any given situation. Sadly, the PBT literature, though long on creativity, is short on rigorous comparisons to help answer such questions. We present ETNA, a platform for empirical evaluation and comparison of PBT techniques. ETNA incorporates a number of popular PBT frameworks and testing workloads from the literature, and its extensible architecture makes adding new ones easy, while handling the technical drudgery of performance measurement. To illustrate its benefits, we use ETNA to carry out several experiments with popular PBT approaches in Rocq, Haskell, OCaml, Racket, and Rust, allowing users to more clearly understand best practices and tradeoffs.


翻译:基于属性的测试(Property-based testing)是函数式编程的重要支柱,拥有丰富的文献、热情的用户社区以及大量工具——事实上,数量之多以至于新用户可能难以选择。此外,任何给定的框架都可能支持多种生成测试输入的策略,即使是经验丰富的用户也可能困惑于在特定情境下哪种策略更优。遗憾的是,PBT文献虽富有创意,却缺乏严谨的比较研究来解答这些问题。本文提出ETNA,一个用于PBT技术经验评估与比较的平台。ETNA整合了文献中多种流行的PBT框架和测试工作负载,其可扩展架构使得添加新框架变得简便,同时自动处理性能测量的技术繁琐工作。为展示其优势,我们利用ETNA在Rocq、Haskell、OCaml、Racket和Rust中针对主流PBT方法开展了多项实验,帮助用户更清晰地理解最佳实践与权衡取舍。

0
下载
关闭预览

相关内容

《信息技术实时定位系统性能测试方法》国家标准意见稿
《人工智能芯片基准测试评估方法》行业标准
专知会员服务
89+阅读 · 2022年2月20日
深度 | 推荐系统评估
AI100
24+阅读 · 2019年3月16日
爱奇艺基于AI的移动端自动化测试框架的设计
前端之巅
18+阅读 · 2019年2月27日
基于区域的目标检测——细粒度
计算机视觉战队
14+阅读 · 2018年2月1日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月20日
VIP会员
相关主题
最新内容
深入Project Maven:为何人工智能在战场上依然失灵
锻造未来士兵:外骨骼、基因工程与赛博格
专知会员服务
7+阅读 · 7月19日
《无人机蜂群通信技术研究》50页
专知会员服务
7+阅读 · 7月19日
战力倍增器:自主武器系统与乌克兰及加沙冲突
人工智能赋能战场情报:提速决策进程
专知会员服务
5+阅读 · 7月17日
《拥抱新兴技术:面向未来军官的教育革新》
专知会员服务
8+阅读 · 7月17日
相关VIP内容
《信息技术实时定位系统性能测试方法》国家标准意见稿
《人工智能芯片基准测试评估方法》行业标准
专知会员服务
89+阅读 · 2022年2月20日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员