Graph-based Multi-Agent Systems (MAS) enable complex cyclic workflows but suffer from inefficient static model allocation, where deploying strong models uniformly wastes computation on trivial sub-tasks. We propose CASTER (Context-Aware Strategy for Task Efficient Routing), a lightweight router for dynamic model selection in graph-based MAS. CASTER employs a Dual-Signal Router that combines semantic embeddings with structural meta-features to estimate task difficulty. During training, the router self-optimizes through a Cold Start to Iterative Evolution paradigm, learning from its own routing failures via on-policy negative feedback. Experiments using LLM-as-a-Judge evaluation across Software Engineering, Data Analysis, Scientific Discovery, and Cybersecurity demonstrate that CASTER reduces inference cost by up to 72.4% compared to strong-model baselines while matching their success rates, and consistently outperforms both heuristic routing and FrugalGPT across all domains.


翻译:基于图的多智能体系统(MAS)能够实现复杂的循环工作流,但其静态模型分配策略存在效率低下的问题——统一部署强大模型会导致在简单子任务上浪费算力。本文提出CASTER(面向任务高效路由的上下文感知策略),一种用于基于图的MAS中动态模型选择的轻量级路由器。CASTER采用双信号路由机制,通过融合语义嵌入与结构元特征来评估任务难度。在训练阶段,路由器通过"冷启动-迭代进化"范式实现自我优化,利用基于策略的负反馈从自身路由失败中学习。在软件工程、数据分析、科学发现和网络安全四大领域采用LLM-as-a-Judge评估方法的实验表明:与强模型基线相比,CASTER在保持同等成功率的同时将推理成本降低达72.4%,并且在所有领域均持续优于启发式路由和FrugalGPT方法。

0
下载
关闭预览

相关内容

《基于Transformer的智能体的战术决策解释》
专知会员服务
39+阅读 · 2025年12月28日
《分布式多智能体强化学习策略的可解释性研究》
专知会员服务
27+阅读 · 2025年11月17日
《多智能体任务规划》2022博士论文
专知会员服务
285+阅读 · 2022年11月20日
出行即服务(MAAS)框架
智能交通技术
53+阅读 · 2019年5月22日
基于车路协同的群体智能协同
智能交通技术
10+阅读 · 2019年1月23日
综述:Image Caption 任务之语句多样性
PaperWeekly
22+阅读 · 2018年11月30日
论文笔记:多任务相关粒子滤波跟踪器
统计学习与视觉计算组
10+阅读 · 2017年7月7日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
Arxiv
0+阅读 · 1月19日
VIP会员
相关基金
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员