Meta-reviewing is a pivotal stage in the peer-review process, serving as the final step in determining whether a paper is recommended for acceptance. Prior research on meta-reviewing has treated this as a summarization problem over review reports. However, complementary to this perspective, meta-reviewing is a decision-making process that requires weighing reviewer arguments and placing them within a broader context. Prior research has demonstrated that decision-makers can be effectively assisted in such scenarios via dialogue agents. In line with this framing, we explore the practical challenges for realizing dialog agents that can effectively assist meta-reviewers. Concretely, we first address the issue of data scarcity for training dialogue agents by generating synthetic data using Large Language Models (LLMs) based on a self-refinement strategy to improve the relevance of these dialogues to expert domains. Our experiments demonstrate that this method produces higher-quality synthetic data and can serve as a valuable resource towards training meta-reviewing assistants. Subsequently, we utilize this data to train dialogue agents tailored for meta-reviewing and find that these agents outperform \emph{off-the-shelf} LLM-based assistants for this task. Finally, we apply our agents in real-world meta-reviewing scenarios and confirm their effectiveness in enhancing the efficiency of meta-reviewing.\footnote{Code available at: https://github.com/UKPLab/eacl2026-meta-review-as-dialog


翻译:元评审是同行评审流程中的关键环节,作为决定论文是否推荐录用的最终步骤。先前关于元评审的研究将其视为对评审报告的摘要生成问题。然而,与此视角形成互补的是,元评审本质上是一种决策过程,需要权衡评审人的论点并将其置于更广泛的背景中进行考量。已有研究表明,在此类场景中,对话智能体能够有效辅助决策者。基于此框架,我们探讨了实现能有效辅助元评审者的对话智能体所面临的实际挑战。具体而言,我们首先通过基于自优化策略的大型语言模型生成合成数据,以解决训练对话智能体时数据稀缺的问题,从而提升这些对话与专家领域的相关性。实验表明,该方法能生成更高质量的合成数据,并可作为训练元评审助手的重要资源。随后,我们利用该数据训练专为元评审定制的对话智能体,发现其在此任务上优于现成的基于大型语言模型的通用助手。最后,我们将所开发的智能体应用于实际元评审场景,并证实其在提升元评审效率方面的有效性。\footnote{代码发布于:https://github.com/UKPLab/eacl2026-meta-review-as-dialog

0
下载
关闭预览

相关内容

智能体,顾名思义,就是具有智能的实体,英文名是Agent。
面向算法选择的元学习研究综述
专知会员服务
46+阅读 · 2023年2月11日
基于文档的对话技术研究
专知会员服务
20+阅读 · 2022年2月20日
专知会员服务
88+阅读 · 2020年1月20日
【基于元学习的推荐系统】5篇相关论文
专知
11+阅读 · 2020年1月20日
元学习—Meta Learning的兴起
专知
44+阅读 · 2019年10月19日
元学习(Meta Learning)最全论文、视频、书籍资源整理
深度学习与NLP
22+阅读 · 2019年6月20日
面试题:Word2Vec中为什么使用负采样?
七月在线实验室
46+阅读 · 2019年5月16日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
推荐|机器学习中的模型评价、模型选择和算法选择!
全球人工智能
10+阅读 · 2018年2月5日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
33+阅读 · 2012年12月31日
VIP会员
相关资讯
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
33+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员