The conference peer review process involves three constituencies with different objectives: authors want their papers accepted at prestigious venues (and quickly), conferences want to present a program with many high-quality and few low-quality papers, and reviewers want to avoid being overburdened by reviews. These objectives are far from aligned, primarily because the evaluation of a submission is inherently noisy. Over the years, conferences have experimented with numerous policies to navigate the tradeoffs. These experiments include setting various bars for acceptance, varying the number of reviews per submission, requiring prior reviews to be included with resubmissions, and others. In this work, we investigate, both analytically and empirically, how well various policies work, and more importantly, why they do or do not work. We model the conference-author interactions as a Stackelberg game in which a prestigious conference commits to an acceptance policy; the authors best-respond by (re)submitting or not (re)submitting to the conference in each round of review, the alternative being a "sure accept" (such as a lightly refereed venue). Our main results include the following observations: 1) the conference should typically set a higher acceptance threshold than the actual desired quality; we call this the "resubmission gap". 2) the reviewing load is heavily driven by resubmissions of borderline papers - therefore, a judicious choice of acceptance threshold may lead to fewer reviews while incurring an acceptable loss in conference quality. 3) conference prestige, reviewer inaccuracy, and author patience increase the resubmission gap, and thus increase the review load for a fixed level of conference quality. For robustness, we further consider different models of paper quality and compare our theoretical results to simulations based on plausible parameters estimated from real data.


翻译:会议同行评审过程涉及三个具有不同目标的利益相关方:作者希望其论文能被知名会议快速接收,会议希望展示包含大量高质量论文和少量低质量论文的议程,而审稿人则希望避免被过多的审稿任务压垮。这些目标远非一致,主要是因为对投稿的评估本身存在固有噪声。多年来,各会议尝试了多种策略来平衡这些权衡,包括设置不同的接收门槛、调整每篇投稿的审稿人数、要求重新提交时附上之前的审稿意见等。在本工作中,我们从分析和实证两个角度探讨了不同策略的有效性,更重要的是,揭示了其生效或失效的原因。我们将会议与作者之间的交互建模为一类斯坦克尔伯格博弈:知名会议承诺采用某种接收策略,作者通过决定在每轮审稿中是否(重新)向该会议投稿来做出最优响应,其替代选择是"确定接收"(如审核宽松的会议)。我们的主要结果包括以下发现:1)会议通常应设置比实际期望质量更高的接收阈值,我们称之为"重新提交差距";2)审稿负担主要由处于临界水平的论文的重新提交驱动——因此,合理选择接收阈值可能在牺牲可接受的会议质量的同时减少审稿量;3)会议声望、审稿人失误率以及作者耐心会扩大重新提交差距,从而在固定会议质量水平下增加审稿负担。为增强鲁棒性,我们进一步考虑了不同的论文质量模型,并将理论结果与基于真实数据估计的合理参数下的模拟进行了对比。

0
下载
关闭预览

相关内容

学术会议,包括国内外相关会议
CVPR 2023 接受论文列表发布 2360篇论文都在这了
专知会员服务
58+阅读 · 2023年4月9日
多智能体顶级会议AAMAS2022最佳论文
专知会员服务
64+阅读 · 2022年5月15日
ICLR 2022接受论文列表出炉!1095 篇论文都在这了!
专知会员服务
76+阅读 · 2022年1月30日
ICCV2021接受论文!
专知会员服务
27+阅读 · 2021年7月23日
专知会员服务
26+阅读 · 2021年4月2日
49篇ICLR2020高分「图机器学习GML」接受论文及代码
专知会员服务
62+阅读 · 2020年1月18日
从NeurIPS论文来看,中美学者很少互相引用
机器之心
1+阅读 · 2022年11月25日
IJCAI2022推荐系统论文集锦
机器学习与推荐算法
0+阅读 · 2022年5月20日
大数据 | 顶级SCI期刊专刊/国际会议信息7条
Call4Papers
10+阅读 · 2018年12月29日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
【论文】图上的表示学习综述
机器学习研究会
15+阅读 · 2017年9月24日
【推荐】图像分类必读开创性论文汇总
机器学习研究会
14+阅读 · 2017年8月15日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年8月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
6+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
29+阅读 · 2023年2月10日
A Survey on Edge Intelligence
Arxiv
52+阅读 · 2020年3月26日
VIP会员
最新内容
ICML 2026 | 自回归Boltzmann生成器重塑分子采样
专知会员服务
0+阅读 · 今天15:55
GNN跨域综述:从消息传递到图基础模型
专知会员服务
0+阅读 · 今天15:53
无人机自主控制与人工智能:系统性综述
专知会员服务
11+阅读 · 今天7:25
巡飞弹与反无人机系统——现代战场的两大支柱
专知会员服务
3+阅读 · 今天6:54
《打造“黄金舰队”》57页报告
专知会员服务
3+阅读 · 今天6:52
《北约数字教官网络发展路径》128页报告
专知会员服务
2+阅读 · 今天6:33
ECCV 2026 | MIMFlow:MIM与归一化流统一图像生成
专知会员服务
7+阅读 · 6月25日
网状网络及其在军事领域的运用
专知会员服务
8+阅读 · 6月25日
无美国参与的欧洲战争方式(万字长文)
专知会员服务
8+阅读 · 6月25日
《国防领域敏感性分析白皮书》
专知会员服务
9+阅读 · 6月25日
相关VIP内容
CVPR 2023 接受论文列表发布 2360篇论文都在这了
专知会员服务
58+阅读 · 2023年4月9日
多智能体顶级会议AAMAS2022最佳论文
专知会员服务
64+阅读 · 2022年5月15日
ICLR 2022接受论文列表出炉!1095 篇论文都在这了!
专知会员服务
76+阅读 · 2022年1月30日
ICCV2021接受论文!
专知会员服务
27+阅读 · 2021年7月23日
专知会员服务
26+阅读 · 2021年4月2日
49篇ICLR2020高分「图机器学习GML」接受论文及代码
专知会员服务
62+阅读 · 2020年1月18日
相关基金
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年8月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
6+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员