综述 | Towards Long-Horizon Agents:长程智能体研究全景

导读

当大模型智能体从“回答问题”走向“持续完成真实任务”,最难的部分往往不再是某一步推理是否正确,而是能否在几十、几百甚至上千个相互依赖的步骤中保持目标、管理上下文、调用工具、修复错误,并在环境反馈中持续调整策略。这正是“长程智能体”成为当前智能体研究核心瓶颈的原因。 这篇 149 页综述《Towards Long-Horizon Agents: A Survey》给出一个系统化框架:长程智能体不是单靠更大模型或更长上下文就能自然出现的能力,而是由“外部化的运行时框架工程”和“内部化的模型优化”共同塑造。前者包括循环与工作流、上下文与记忆、工具协议、编排、钩子与中间件、验证;后者包括架构基底、数据与环境合成、预训练与中期训练、微调、智能体强化学习、在线策略蒸馏和自演化。 本文按照原论文结构展开,依次梳理基础定义、技术演化、运行时框架、模型优化、应用落地和开放前沿。对于关注智能体、软件工程自动化、深度研究、计算机使用、多模态交互和通用助理的读者,这篇综述的价值在于把分散概念统一到同一张地图中:什么是长程任务,长程能力来自哪里,为什么现有智能体会失败,以及下一代系统应当如何设计。

论文信息

论文标题:Towards Long-Horizon Agents: A Survey 副标题:Foundation, Evolution, Harness, Optimization, Application, and Frontier 作者团队:来自中国人民大学、北京大学、清华大学、中山大学、香港科技大学、新加坡国立大学等机构。 项目主页:https://Long-Horizon-Agents.github.io 代码与资源:https://github.com/RUC-NLPIR/Awesome-Long-Horizon-Agents

1 Introduction 引言

过去几年,LLM 已从单轮聊天系统逐步成为软件工程、通用助理、科学发现、计算机使用和多模态交互中的决策核心。表面上这些应用差异很大,但它们共享一个关键要求:智能体必须在长时间跨度内持续迭代,反复经历推理、工具调用、环境观察和策略修正,最终完成一个完整目标。 论文将长程智能体定义为:能够在扩展时间跨度上规划,与真实环境交互,从自身错误中恢复,并在执行过程中调整策略的智能体。这里的“长程”不是简单地运行更久,而是指任务轨迹中存在多个相互依赖的决策步骤,局部错误会沿轨迹累积,后续行动又会改变可观察状态和可选策略。 长程任务之所以困难,主要来自三类失败模式。第一是目标漂移与复合误差:智能体每一步都可能只有轻微偏差,但在长轨迹中会逐渐偏离原始目标。第二是上下文腐化与窗口压力:当上下文越来越长,模型可能遗忘关键约束、重复无关信息,甚至因为感知到上下文接近上限而提前宣告完成。第三是稀疏、延迟奖励与不可逆行动:很多任务只有终局反馈,智能体很难知道中间步骤是否真正有价值,而且行动越长,越容易出现难以回滚的风险。 因此,论文提出的中心论断是:长程智能体是一种系统级能力,由外部化框架工程与内部化模型优化共同形成。外部框架让智能体在运行时可指定、可控制、可验证、可恢复;内部优化则让模型逐步学会更稳定的长程策略。两者不是替代关系,而是共同演化关系:框架中的经验会被内化为模型能力,更强模型又会解锁更复杂的框架设计。

2 Foundation: Formalizing Long-Horizon Agents 基础:形式化长程智能体

定义

论文将长程智能体形式化为一个与运行时框架耦合的决策过程。智能体并不是孤立地根据当前提示生成下一段文本,而是在环境状态、历史轨迹、工具接口、记忆系统、验证器和控制策略共同构成的系统中选择动作。每一步动作都会改变后续观察和可用信息,也会影响未来成功概率。 这一形式化强调两个要点。首先,长程能力需要跨步骤保持一致性,包括目标、约束、计划、环境状态和中间产物。其次,长程能力需要在执行中适应反馈:智能体不能只按照初始计划机械推进,而要能根据工具返回、错误提示、测试结果或外部观察修订路线。

三层任务与能力

论文把长程任务划分为三个层级,并对应三类能力。 第一层是单上下文内任务。任务可以放进一个上下文窗口,通常在分钟级完成,但仍需要多步推理与交互,例如阅读一个代码文件后修复一个局部 bug。对应能力是单上下文交互式推理:模型需要在同一窗口内跟踪目标、观察和行动结果。 第二层是跨上下文任务。任务需要跨越多个窗口、会话或小时到天级执行,例如完整开发一个功能、持续调试项目、完成多轮深度研究。对应能力是跨上下文状态与记忆:系统必须保存关键进展、恢复工作现场、压缩或检索历史信息。 第三层是跨任务开放流。智能体面对的是连续任务流或长期部署环境,例如个人助理、研究助手、长期代码维护者。对应能力是跨任务经验积累:系统要把过去任务中的失败、偏好、工具经验和环境知识转化为后续可复用能力。

时间跨度扩张

论文引用前沿智能体时间跨度趋势,说明先进系统在软件工程风格任务上的 50% 完成时间跨度已从秒级增长到小时级,整体拟合的翻倍时间约为 196.5 天;若只看 2023 年以来的模型,翻倍速度约为 130.8 天。作者也提醒,这类估计受评测方法、模型版本和样本选择影响,但趋势非常清晰:可委托给智能体的任务长度正在快速增长。 这意味着评估智能体不能只看单步准确率或短任务得分。真实价值越来越取决于系统能否在更长轨迹中保持可靠性、成本可控性和错误可恢复性。

与相邻概念的区别

论文特别区分了长程智能体与三个相邻概念。长运行智能体强调运行时间长,但长时间运行并不必然意味着任务具有长程依赖。自主智能体强调人类介入少,但高度自主的短任务系统也未必具备长程能力。自演化智能体强调系统会随经验更新自身策略或结构,而长程智能体可以有自演化能力,也可以主要依靠稳定框架和固定模型完成长任务。 因此,长程智能体的核心问题是:模型与框架耦合后,能否持续完成需要多步交互、状态维护、错误恢复和经验迁移的任务。

3 Evolution: From Prompting to Runtime 演化:从提示词到运行时

提示工程阶段

2020 到 2023 年左右,智能体能力主要通过提示词控制。研究者通过思维链、反思、自一致性、树状搜索、工具调用提示等方式,把更复杂的推理结构写入提示中。这一阶段的控制单位仍然接近单次模型调用,优势是简单、通用、易于迁移;局限是状态管理弱,外部反馈难以稳定闭环。

上下文工程阶段

2023 到 2025 年,控制重心从“如何写提示”扩展到“如何构造模型看到的信息”。上下文工程关注检索、记忆、轨迹压缩、状态摘要、任务资料选择和多模态输入组织。它让智能体能够在更长任务中获得相关信息,同时避免无关历史污染当前决策。 这一阶段的重要变化是:能力不只来自模型本身,也来自模型输入边界的管理。一个强模型如果被喂入混乱上下文,仍可能失控;一个一般模型若拥有清晰状态和高质量检索,也可能在特定任务中表现稳定。

运行时框架阶段

2025 年以来,长程智能体进入运行时框架阶段。控制对象不再只是提示或上下文,而是完整执行轨迹。系统需要管理任务循环、工具调用、状态转移、多智能体协同、中间检查、错误处理、权限边界和最终交付。 论文强调,这三个阶段不是互相取代,而是逐层吸收。优秀的运行时框架仍需要提示工程和上下文工程;只是它们被嵌入到更大的执行系统中,成为长程能力的一部分。

4 Harness: Externalizing Long-Horizon Capability 框架:外化长程能力

六个核心组件

运行时框架是长程智能体的外部能力载体。论文将其拆解为六个组件。 第一是循环与工作流。线性工作流适合明确步骤任务,计划执行工作流适合先分解再执行,分支工作流适合探索多个候选路径并择优。长程任务通常需要在这些模式间动态切换。 第二是上下文与记忆。工作上下文负责当前任务内的信息选择、压缩和丢弃;持久记忆则跨窗口、跨任务、跨会话保存重要状态。关键不只是“记住更多”,而是决定什么值得进入当前上下文、什么应该沉淀为长期记忆、什么必须被遗忘。 第三是工具、协议与技能。工具让智能体能读写文件、运行代码、检索网页、操作浏览器或调用外部系统;MCP 等协议让工具接口更标准化;技能库则把可复用流程封装为可调用能力。对于长程任务,工具选择、参数构造、错误恢复和权限治理同样重要。 第四是编排。复杂任务可能需要多个角色或多个智能体协同,例如规划者、执行者、审查者、测试者、研究者。编排机制负责任务分解、角色分配、通信拓扑、结果聚合和反馈路由。 第五是钩子与中间件。它们在关键节点插入规则、策略或自适应控制,例如执行前检查危险操作、工具调用后解析错误、阶段结束时触发总结、成本过高时切换策略。 第六是验证。长程智能体必须有持续的质量信号,包括中间状态是否合理、工具结果是否可信、最终产物是否满足目标、是否违反安全约束。验证可以来自规则、测试、外部判别器、模型评审、人类反馈或环境奖励。

5 Optimization: Internalizing Long-Horizon Capability 优化:内化长程能力

训练管线

如果说框架让能力在系统外部显式化,那么模型优化就是把长程行为逐步内化到策略中。论文将优化路径概括为从架构基底到数据环境,再到训练生命周期的完整管线。 架构层面,显式上下文架构依赖长上下文窗口直接容纳历史;压缩状态架构用隐状态、记忆压缩或状态空间模型降低长序列成本;混合架构结合两者;高吞吐机制则服务于长轨迹采样和推理效率。 数据与环境合成负责产生可训练的长程任务。任务合成生成多步目标,环境合成提供可交互世界,轨迹合成则提供成功或失败执行过程。对于智能体训练,数据不只是问答对,而是包含状态、动作、观察、工具返回和奖励的轨迹。 预训练与中期训练为模型注入推理先验、长上下文状态、多模态感知和任务混合能力。微调阶段进一步通过指令选择、课程学习和蒸馏,让模型适应具体智能体任务。

强化学习与自演化

智能体强化学习是内化长程能力的关键路径,但也最具挑战。长轨迹中的奖励通常稀疏且延迟,模型需要判断哪些中间动作真正贡献了最终成功,这就是信用分配问题。与此同时,策略优化必须面对高成本采样、环境随机性、工具错误和不可逆行动。 论文将智能体强化学习的核心问题概括为信用分配、策略优化、采样策略和交互模式。有效训练不仅要奖励最终答案,还要利用过程信号、阶段性验证、失败轨迹和环境反馈,让模型学会在真实交互中修复路线。 自演化进一步把智能体从“被动训练”推向“部署中成长”。离线自演化从历史轨迹中总结经验并更新策略;在线自演化在运行时根据反馈调整记忆、工具或策略;智能体与环境共同演化则强调任务分布、评测环境和智能体能力会相互推动。论文认为,自演化不是长程智能体的同义词,但它会成为跨任务经验积累的重要机制。

6 Application: Long-Horizon Agents in Practice 应用:长程智能体实践

五类应用

论文将长程智能体实践归纳为五类代表性应用。 第一是软件工程。智能体需要理解代码库、定位问题、编辑多个文件、运行测试、根据错误日志修复并交付变更。长程能力体现在仓库级 grounding、工作流规划和反馈驱动修复。 第二是信息寻求。深度搜索要求智能体沿一个问题持续挖掘证据,广度搜索要求同时比较多个来源,研究综合则要求整理冲突信息、保留引用链并形成可信结论。 第三是计算机使用。浏览器、桌面和移动端智能体需要感知界面、执行点击输入、处理弹窗和错误状态,并在不可完全结构化的环境中完成任务。 第四是多模态智能体。它们不仅处理文本,还要理解图像、视频、音频或空间环境,并在多模态状态中维持任务目标。长程多模态任务尤其考验记忆压缩和跨模态对齐。 第五是通用智能体。个人助理、具身智能体和生产型智能体需要跨任务、跨场景工作,长期维护用户偏好、环境知识和工具经验。

论文还系统整理了相关基准与资源。一个好的长程评测不能只统计最终是否成功,还应关注轨迹质量、成本预算、错误恢复、安全性、可复现性和真实环境迁移能力。随着任务跨度变长,评测本身也会从静态问答转向可交互环境和真实工作流。

7 Frontier: Open Challenges and Outlooks 前沿:开放挑战与展望

四条前沿轴线

论文将开放挑战概括为四条轴线。 第一是演化能力。未来智能体需要更强的自演化框架、更好的框架泛化与迁移能力,以及持续学习能力。关键问题是如何让经验积累真正提升未来任务,而不是把偶然偏差固化为错误习惯。 第二是有效性。智能体需要在更真实的环境中行动,包括动态网页、真实软件栈、复杂物理空间和多主体场景。数字环境到具身环境的迁移会放大感知误差、执行延迟和安全约束。 第三是效率。长程任务天然昂贵,会消耗大量上下文、推理次数、工具调用和多模态计算。未来系统必须具备预算感知能力,在质量、成本和时间之间做动态权衡。 第四是可信性。长程智能体的失败不一定突然发生,更多时候是缓慢漂移、错误累积或不安全操作。系统需要更强的反思与错误鲁棒性,也需要权限、审计、治理和人类监督机制。

8 Conclusion 结论

这篇综述的核心贡献,是把长程智能体从模糊概念整理为一个清晰的系统研究对象。长程能力不是“模型更聪明”的单点结果,而是模型、运行时框架、工具生态、记忆机制、训练数据、强化学习和验证体系共同作用的结果。 从实践角度看,下一代智能体系统需要同时回答三个问题:如何把任务拆成可执行、可恢复、可验证的轨迹;如何让模型在长轨迹中保持目标一致和状态连续;如何把运行经验转化为可迁移的长期能力。只有当外部框架与内部优化真正协同演化,智能体才可能从短程交互工具走向可靠的长期工作伙伴。

成为VIP会员查看完整内容
0

相关内容

Agentic RL:框架、实践与长程智能体训练
专知会员服务
21+阅读 · 6月24日
AI 智能体系统:体系架构、应用场景及评估范式
专知会员服务
171+阅读 · 2021年8月3日
【综述】多智能体强化学习算法理论研究
深度强化学习实验室
16+阅读 · 2020年9月9日
多智能体强化学习(MARL)近年研究概览
PaperWeekly
38+阅读 · 2020年3月15日
浅谈群体智能——新一代AI的重要方向
中国科学院自动化研究所
44+阅读 · 2019年10月16日
AI综述专栏|多模态学习研究进展综述
人工智能前沿讲习班
64+阅读 · 2018年7月13日
AI综述专栏|跨领域推荐系统文献综述(下)
人工智能前沿讲习班
14+阅读 · 2018年5月18日
AI综述专栏 | 跨领域推荐系统文献综述(上)
人工智能前沿讲习班
13+阅读 · 2018年5月16日
群体智能:新一代人工智能的重要方向
走向智能论坛
12+阅读 · 2017年8月16日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
VIP会员
相关主题
最新内容
战力倍增器:自主武器系统与乌克兰及加沙冲突
人工智能赋能战场情报:提速决策进程
专知会员服务
2+阅读 · 7月17日
《拥抱新兴技术:面向未来军官的教育革新》
专知会员服务
5+阅读 · 7月17日
《无人地面战车(UGV)的崛起》报告
专知会员服务
7+阅读 · 7月16日
相关VIP内容
相关资讯
【综述】多智能体强化学习算法理论研究
深度强化学习实验室
16+阅读 · 2020年9月9日
多智能体强化学习(MARL)近年研究概览
PaperWeekly
38+阅读 · 2020年3月15日
浅谈群体智能——新一代AI的重要方向
中国科学院自动化研究所
44+阅读 · 2019年10月16日
AI综述专栏|多模态学习研究进展综述
人工智能前沿讲习班
64+阅读 · 2018年7月13日
AI综述专栏|跨领域推荐系统文献综述(下)
人工智能前沿讲习班
14+阅读 · 2018年5月18日
AI综述专栏 | 跨领域推荐系统文献综述(上)
人工智能前沿讲习班
13+阅读 · 2018年5月16日
群体智能:新一代人工智能的重要方向
走向智能论坛
12+阅读 · 2017年8月16日
相关基金
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员