Multi-agent debate (MAD) among large language models (LLMs) is often judged by answer changes and convergence, yet these outcomes alone cannot establish that peers improved the answer. We study this gap with matched self-reflection, stance-only, and full-reasoning conditions. With five GPT-4o agents on MMLU-Pro disagreement questions, 37% of agent-question pairs change even without peer information. Among pairs stable under this control, 29.3% adopt a peer answer after seeing peer stances. These adoptions include corrections, new errors, and changes between wrong answers. The outcomes vary with correct-answer availability. When a correct peer answer is available, correction exceeds harmful adoption after accounting for peer support in the primary setting. Full reasoning improves individual accuracy but provides no additional majority-vote gain over self-reflection while using 57% more tokens. Responses to constructed peer materials vary across GPT-4o, DeepSeek-V4-Flash, and Qwen3-Plus. An answer-agnostic intervention suppresses both harmful and beneficial peer adoption without a detectable accuracy gain. Together, the results show that convergence is an ambiguous signal of value and that debate must be judged by what peer information contributes to the final group answer.


翻译:暂无翻译

0
下载
关闭预览

相关内容

可信赖LLM智能体的研究综述:威胁与应对措施
专知会员服务
37+阅读 · 2025年3月17日
国防中的LLM:五角大楼的机遇与挑战
专知会员服务
44+阅读 · 2024年3月5日
《多模态大型语言模型》最新进展,详述26种现有MM-LLMs
专知会员服务
65+阅读 · 2024年1月25日
【EMNLP 2023】基于大语言模型辩论的多智能体协作推理分析
多智能体强化学习(MARL)近年研究概览
PaperWeekly
39+阅读 · 2020年3月15日
微软机器阅读理解在一场多轮对话挑战中媲美人类
微软丹棱街5号
19+阅读 · 2019年5月14日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
多轮对话之对话管理:Dialog Management
PaperWeekly
18+阅读 · 2018年1月15日
论文浅尝 | Question Answering over Freebase
开放知识图谱
19+阅读 · 2018年1月9日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
VIP会员
最新内容
人工智能与战争的未来
专知会员服务
0+阅读 · 今天15:42
《Agent Mosaic:识别智能体LLM系统中的机密泄露》
专知会员服务
0+阅读 · 今天15:19
人工智能在军事教育中的应用:若干视角与经验
“星链”减速与不断适应的乌克兰
专知会员服务
3+阅读 · 11月6日
美国中期选举之后:帕兰提尔面临不确定性?
专知会员服务
4+阅读 · 11月6日
相关资讯
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员