A pervasive methodological error is the post-hoc interpretation of $p$-values. A $p$-value $p$ is the smallest significance level at which we would have rejected the null had we chosen level $p$. It is not the smallest significance level at which we reject the null. We introduce post-hoc $p$-values, that do admit such a post-hoc interpretation. We show that $p$ is a post-hoc $p$-value if and only if $1/p$ is an $e$-value, a recently introduced statistical object. The product of independent post-hoc $p$-values is a post-hoc $p$-value, making them easy to combine. Moreover, any post-hoc $p$-value can be trivially improved if we permit external randomization, but only (essentially) non-randomized post-hoc $p$-values can be arbitrarily merged through multiplication. In addition, we discuss what constitutes a `good' post-hoc $p$-value. Finally, we argue that post-hoc $p$-values eliminate the need of a pre-specified significance level, such as $\alpha = .05$ or $\alpha = .005$ \citep{benjamin2018redefine}. We believe this may take away incentives for $p$-hacking and contribute to solving the file-drawer problem, as both these issues arise from using a pre-specified significance level.


翻译:一个普遍存在的方法论错误是对$p$值的事后解释。$p$值$p$是若我们选择阈值$p$时本应拒绝原假设的最小显著性水平,而非我们实际拒绝原假设的最小显著性水平。我们引入事后$p$值,使其能够真正接受此类事后解释。研究表明,$p$为事后$p$值当且仅当$1/p$是$e$值——一种新近提出的统计量。独立事后$p$值的乘积仍是事后$p$值,这极大便利了它们的合并。此外,若允许外部随机化,任何事后$p$值均可被简单优化,但只有(本质上的)非随机化事后$p$值才能通过乘法任意合并。同时,我们探讨了何为"优良"的事后$p$值。最后,我们论证事后$p$值消除了预设定显著性水平(如$\alpha = .05$或$\alpha = .005$ \citep{benjamin2018redefine})的必要性。我们认为这能削弱$p$值操纵的动机,并有助于解决抽屉文件问题,因为这两个问题均源于对预先设定显著性水平的使用。

0
下载
关闭预览

相关内容

专知会员服务
21+阅读 · 2021年5月1日
【ACL2020】多模态信息抽取,365页ppt
专知会员服务
151+阅读 · 2020年7月6日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
34+阅读 · 2019年10月18日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
32+阅读 · 2019年10月17日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
41+阅读 · 2019年10月9日
RL解决'BipedalWalkerHardcore-v2' (SOTA)
CreateAMind
31+阅读 · 2019年7月17日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
统计学习与视觉计算组
15+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
CNN 反向传播算法推导
统计学习与视觉计算组
30+阅读 · 2017年12月29日
可解释的CNN
CreateAMind
18+阅读 · 2017年10月5日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16(1)
KingsGarden
74+阅读 · 2016年11月26日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2024年2月25日
Arxiv
0+阅读 · 2024年2月24日
Arxiv
0+阅读 · 2024年2月24日
Arxiv
0+阅读 · 2024年2月24日
VIP会员
最新内容
马赛克战:俄乌战场透析
专知会员服务
0+阅读 · 31分钟前
《利用人工智能增强军事决策》
专知会员服务
0+阅读 · 34分钟前
《自动机器学习在军事数据耕耘法中的应用》
专知会员服务
0+阅读 · 41分钟前
为何指挥所生存能力要求范式转变
专知会员服务
0+阅读 · 49分钟前
“蛛网”行动一周年:远程无人机战争
专知会员服务
0+阅读 · 今天3:23
【剑桥博士论文】智能体-环境协同优化
专知会员服务
5+阅读 · 6月9日
为初级军官战术训练设计生成式人工智能平台
专知会员服务
7+阅读 · 6月9日
《美军条令:作战伤员后送保障》
专知会员服务
5+阅读 · 6月9日
相关资讯
RL解决'BipedalWalkerHardcore-v2' (SOTA)
CreateAMind
31+阅读 · 2019年7月17日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
统计学习与视觉计算组
15+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
CNN 反向传播算法推导
统计学习与视觉计算组
30+阅读 · 2017年12月29日
可解释的CNN
CreateAMind
18+阅读 · 2017年10月5日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16(1)
KingsGarden
74+阅读 · 2016年11月26日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员