Multi-party dialogue is a critical setting for studying collaborative reasoning and decision-making, yet existing datasets rarely focus on structured, in-depth complex reasoning tasks. We introduce DeliChess, a novel dataset of group deliberation dialogues in which participants collaboratively solve multiple-choice chess puzzles. Each group first completes the puzzle individually, then engages in a multi-party discussion before submitting a revised collective answer. The dataset includes 107 dialogues with full transcripts, pre- and post-discussion choices, and metadata on puzzle difficulty and move quality. We evaluate performance using three metrics based on chess engine evaluations, and find that deliberation significantly improves group accuracy. We further analyse the role of probing utterances (i.e., messages that elicit proposals, justifications, or strategic reflection) using a classifier trained on prior deliberation data. While probing makes group performance more variable after discussion, it does not consistently lead to better performance. Our dataset offers a rich testbed for modelling group reasoning, dialogue dynamics, and the resolution of differing perspectives and opinions in a well-defined strategic domain.


翻译:多方对话是研究协作推理与决策制定的关键场景,然而现有数据集鲜少关注结构化、深层次的复杂推理任务。我们提出DeliChess——一个全新的群体深度讨论对话数据集,其中参与者通过协作方式解决多项选择国际象棋谜题。实验流程中,各小组先各自独立完成谜题,随后进行多方讨论,最终提交修正后的集体答案。该数据集包含107组对话文本、讨论前后选择记录,以及谜题难度与走棋质量的元数据。我们采用基于象棋引擎评估的三种指标进行性能评测,发现深度讨论显著提升了小组准确率。进一步地,我们利用先前深度讨论数据训练的预分类器,分析了试探性话语(即引发提案、论证或策略反思的发言)的作用。研究发现:试探性话语虽使讨论后的小组表现波动性增大,但并未持续带来性能提升。本数据集为在明确定义的策略领域中建模群体推理、对话动态以及不同观点分歧的消解机制提供了丰富的实验平台。

0
下载
关闭预览

相关内容

数据集,又称为资料集、数据集合或资料集合,是一种由数据所组成的集合。
Data set(或dataset)是一个数据的集合,通常以表格形式出现。每一列代表一个特定变量。每一行都对应于某一成员的数据集的问题。它列出的价值观为每一个变量,如身高和体重的一个物体或价值的随机数。每个数值被称为数据资料。对应于行数,该数据集的数据可能包括一个或多个成员。
《从情景多模态对话中构建知识图谱》美空军项目报告
专知会员服务
56+阅读 · 2024年5月19日
知识与数据互补的战术级兵棋行为决策框架设计与实现
专知会员服务
110+阅读 · 2023年5月30日
多智能体协同决策方法研究
专知会员服务
136+阅读 · 2022年12月15日
论文浅尝 | 一种用于多关系问答的可解释推理网络
开放知识图谱
18+阅读 · 2019年5月21日
多轮对话之对话管理:Dialog Management
PaperWeekly
18+阅读 · 2018年1月15日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
44+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
最新内容
俄乌无人机战争的六大启示
专知会员服务
8+阅读 · 8月3日
《无人机空中监控:通信实验洞察》
专知会员服务
6+阅读 · 8月3日
从采集到决策:美军视角下的战术情报范式重构
《履带式无人地面战车技术发展现状》
专知会员服务
6+阅读 · 8月2日
《无人机脆弱性利用:网络空间力量的新域》
专知会员服务
7+阅读 · 8月1日
美空军如何将人工智能从战场部署至后方机关
专知会员服务
14+阅读 · 7月31日
相关VIP内容
《从情景多模态对话中构建知识图谱》美空军项目报告
专知会员服务
56+阅读 · 2024年5月19日
知识与数据互补的战术级兵棋行为决策框架设计与实现
专知会员服务
110+阅读 · 2023年5月30日
多智能体协同决策方法研究
专知会员服务
136+阅读 · 2022年12月15日
相关基金
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
44+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员