Randomized controlled trials, commonly known as A/B tests, are the standard mechanism for inferring causal effects of product innovations. Standard platforms evaluate these tests with fixed-horizon procedures that control the false positive rate at a predetermined time, forcing teams to wait until the end even when early data strongly indicates success or failure. Unfortunately, continuous monitoring ("peeking") invalidates these guarantees, while always-valid inference is overly conservative under a strict deadline, and group sequential designs (GSD) have received limited traction in large-scale experimentation due to operational barriers: terminal-rule preservation, autocorrelation, latent effect-size distributions, calendar-duration optimization. We fill in this gap by proposing a Predictive Probability of Success (PPoS) group sequential framework that is autocorrelation-aware and duration-optimal while preserving the platform's fixed-horizon terminal rule. Our key insight is that PPoS thresholds map to closed-form lift boundaries that converge to the standard test at the horizon by construction, admit an effective-sample-size correction estimated from historical A/A tests, and suffice to attain the likelihood-ratio efficiency floor. Experimentally on online A/A and A/B experiments, we show that the proposed policy reduces expected duration by 43.1% (7.97 days vs. 14-day baseline), increasing effective platform capacity by 76%, while retaining the guarantees on FPR and power.


翻译:暂无翻译

0
下载
关闭预览

相关内容

Group一直是研究计算机支持的合作工作、人机交互、计算机支持的协作学习和社会技术研究的主要场所。该会议将社会科学、计算机科学、工程、设计、价值观以及其他与小组工作相关的多个不同主题的工作结合起来,并进行了广泛的概念化。官网链接:https://group.acm.org/conferences/group20/
《测试操作程序 (TOP) :标准障碍物》美国陆军
专知会员服务
16+阅读 · 2024年1月24日
《建立智能体-仿真物技术关系 (ASTR)》美国陆军55页报告
专知会员服务
41+阅读 · 2023年3月28日
《5G/6G毫米波测试技术白皮书》未来移动通信论坛
专知会员服务
17+阅读 · 2022年4月15日
【NeurIPS2021】用于物体检测的实例条件知识蒸馏
专知会员服务
20+阅读 · 2021年11月10日
专知会员服务
78+阅读 · 2021年9月27日
【APC】先进过程控制系统(APC: Advanced Process Control)
产业智能官
69+阅读 · 2020年7月12日
装备作战试验标准体系研究
科技导报
18+阅读 · 2019年4月2日
【PHM】NIST:PHM制造工艺流程技术和指标路线图
产业智能官
11+阅读 · 2019年1月13日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
From Softmax to Sparsemax-ICML16(1)
KingsGarden
74+阅读 · 2016年11月26日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
《面向国防领域的大语言模型基准测试与适配》
专知会员服务
8+阅读 · 10月28日
世界模型入门:从序贯决策到通用智能体
专知会员服务
12+阅读 · 10月24日
军事域更好使用人工智能的实用指南
专知会员服务
11+阅读 · 10月22日
《衡量语言模型中的作战规划能力》
专知会员服务
15+阅读 · 10月20日
相关资讯
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员