基于大语言模型的多智能体系统因其在推理、规划及生成类人响应方面的能力而日益受到重视。虽然多智能体系统的研究重点多集中于部分可观测性、异构任务分配及其他协作范式等方面,但确保其可靠性与鲁棒性仍是一个关键挑战,尤其是在高风险应用中。本研究将多智能体决策制定构建为一个冗余与容错问题,通过部署多个智能体来解决相同的任务。通过在包括资源分配、问答、主题分类和摘要在内的基准问题上进行实验,我们发现,较简单的策略,如“多数表决”和“去中心化架构”,在一致性方面往往优于更复杂的基于反馈的系统。反馈机制尽管精巧,却存在误差传播和系统失稳的风险,这凸显了独立决策与结果聚合的价值。这些发现强调了在设计用于工业及关键任务型应用的鲁棒多智能体大语言模型系统时,平衡简洁性与可靠性的重要性。

本文通过涉及大语言模型智能体的多个问题来探讨这些挑战,具体包括1) 资源分配,2) 问答,3) 主题分类和4) 摘要,作为一项初步研究。资源分配问题是工业运营中一个关键且广泛适用的领域。同时,问答、主题分类和文本摘要问题是自然语言处理中的经典任务。评估了多种多智能体聚合策略,旨在找出能在不牺牲系统准确性性能的前提下提升可靠性的方法。通过实证实验,举例说明了增加架构复杂性并不一定能提高可靠性,从而强调了在精巧性与鲁棒性之间取得平衡的重要性。本文能为设计可靠的多智能体大语言模型系统提供见解,并为在工业环境中部署基于多智能体大语言模型系统的日益增长的研究贡献一份力量。

成为VIP会员查看完整内容
31

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
面向大模型多智能体系统的多维评估方法
专知会员服务
34+阅读 · 2025年4月15日
《大语言模型智能体:方法、应用与挑战综述》
专知会员服务
58+阅读 · 2025年3月28日
基于大语言模型的智能体优化研究综述
专知会员服务
59+阅读 · 2025年3月25日
多智能体协作机制:大语言模型综述
专知会员服务
67+阅读 · 2025年3月4日
多循环嵌套的大语言模型多智能体指挥控制过程
专知会员服务
42+阅读 · 2025年1月19日
《大型多模态智能体》综述
专知会员服务
106+阅读 · 2024年2月26日
基于大型语言模型的多智能体:进展与挑战综述
专知会员服务
138+阅读 · 2024年2月6日
多智能体协同决策方法研究
专知会员服务
133+阅读 · 2022年12月15日
面向多智能体博弈对抗的对手建模框架
专知
18+阅读 · 2022年9月28日
多模态情绪识别研究综述
专知
25+阅读 · 2020年12月21日
经典书《斯坦福大学-多智能体系统》532页pdf
专访俞栋:多模态是迈向通用人工智能的重要方向
AI科技评论
26+阅读 · 2019年9月9日
群体智能:新一代人工智能的重要方向
走向智能论坛
12+阅读 · 2017年8月16日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
48+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2月9日
VIP会员
相关VIP内容
面向大模型多智能体系统的多维评估方法
专知会员服务
34+阅读 · 2025年4月15日
《大语言模型智能体:方法、应用与挑战综述》
专知会员服务
58+阅读 · 2025年3月28日
基于大语言模型的智能体优化研究综述
专知会员服务
59+阅读 · 2025年3月25日
多智能体协作机制:大语言模型综述
专知会员服务
67+阅读 · 2025年3月4日
多循环嵌套的大语言模型多智能体指挥控制过程
专知会员服务
42+阅读 · 2025年1月19日
《大型多模态智能体》综述
专知会员服务
106+阅读 · 2024年2月26日
基于大型语言模型的多智能体:进展与挑战综述
专知会员服务
138+阅读 · 2024年2月6日
多智能体协同决策方法研究
专知会员服务
133+阅读 · 2022年12月15日
相关基金
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
48+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员