综述 | Towards Long-Horizon Agents：长程智能体研究全景

导读

当大模型智能体从“回答问题”走向“持续完成真实任务”，最难的部分往往不再是某一步推理是否正确，而是能否在几十、几百甚至上千个相互依赖的步骤中保持目标、管理上下文、调用工具、修复错误，并在环境反馈中持续调整策略。这正是“长程智能体”成为当前智能体研究核心瓶颈的原因。这篇 149 页综述《Towards Long-Horizon Agents: A Survey》给出一个系统化框架：长程智能体不是单靠更大模型或更长上下文就能自然出现的能力，而是由“外部化的运行时框架工程”和“内部化的模型优化”共同塑造。前者包括循环与工作流、上下文与记忆、工具协议、编排、钩子与中间件、验证；后者包括架构基底、数据与环境合成、预训练与中期训练、微调、智能体强化学习、在线策略蒸馏和自演化。本文按照原论文结构展开，依次梳理基础定义、技术演化、运行时框架、模型优化、应用落地和开放前沿。对于关注智能体、软件工程自动化、深度研究、计算机使用、多模态交互和通用助理的读者，这篇综述的价值在于把分散概念统一到同一张地图中：什么是长程任务，长程能力来自哪里，为什么现有智能体会失败，以及下一代系统应当如何设计。

论文信息

论文标题：Towards Long-Horizon Agents: A Survey 副标题：Foundation, Evolution, Harness, Optimization, Application, and Frontier 作者团队：来自中国人民大学、北京大学、清华大学、中山大学、香港科技大学、新加坡国立大学等机构。项目主页：https://Long-Horizon-Agents.github.io 代码与资源：https://github.com/RUC-NLPIR/Awesome-Long-Horizon-Agents

1 Introduction 引言

过去几年，LLM 已从单轮聊天系统逐步成为软件工程、通用助理、科学发现、计算机使用和多模态交互中的决策核心。表面上这些应用差异很大，但它们共享一个关键要求：智能体必须在长时间跨度内持续迭代，反复经历推理、工具调用、环境观察和策略修正，最终完成一个完整目标。论文将长程智能体定义为：能够在扩展时间跨度上规划，与真实环境交互，从自身错误中恢复，并在执行过程中调整策略的智能体。这里的“长程”不是简单地运行更久，而是指任务轨迹中存在多个相互依赖的决策步骤，局部错误会沿轨迹累积，后续行动又会改变可观察状态和可选策略。长程任务之所以困难，主要来自三类失败模式。第一是目标漂移与复合误差：智能体每一步都可能只有轻微偏差，但在长轨迹中会逐渐偏离原始目标。第二是上下文腐化与窗口压力：当上下文越来越长，模型可能遗忘关键约束、重复无关信息，甚至因为感知到上下文接近上限而提前宣告完成。第三是稀疏、延迟奖励与不可逆行动：很多任务只有终局反馈，智能体很难知道中间步骤是否真正有价值，而且行动越长，越容易出现难以回滚的风险。因此，论文提出的中心论断是：长程智能体是一种系统级能力，由外部化框架工程与内部化模型优化共同形成。外部框架让智能体在运行时可指定、可控制、可验证、可恢复；内部优化则让模型逐步学会更稳定的长程策略。两者不是替代关系，而是共同演化关系：框架中的经验会被内化为模型能力，更强模型又会解锁更复杂的框架设计。

2 Foundation: Formalizing Long-Horizon Agents 基础：形式化长程智能体

定义

论文将长程智能体形式化为一个与运行时框架耦合的决策过程。智能体并不是孤立地根据当前提示生成下一段文本，而是在环境状态、历史轨迹、工具接口、记忆系统、验证器和控制策略共同构成的系统中选择动作。每一步动作都会改变后续观察和可用信息，也会影响未来成功概率。这一形式化强调两个要点。首先，长程能力需要跨步骤保持一致性，包括目标、约束、计划、环境状态和中间产物。其次，长程能力需要在执行中适应反馈：智能体不能只按照初始计划机械推进，而要能根据工具返回、错误提示、测试结果或外部观察修订路线。

三层任务与能力

论文把长程任务划分为三个层级，并对应三类能力。第一层是单上下文内任务。任务可以放进一个上下文窗口，通常在分钟级完成，但仍需要多步推理与交互，例如阅读一个代码文件后修复一个局部 bug。对应能力是单上下文交互式推理：模型需要在同一窗口内跟踪目标、观察和行动结果。第二层是跨上下文任务。任务需要跨越多个窗口、会话或小时到天级执行，例如完整开发一个功能、持续调试项目、完成多轮深度研究。对应能力是跨上下文状态与记忆：系统必须保存关键进展、恢复工作现场、压缩或检索历史信息。第三层是跨任务开放流。智能体面对的是连续任务流或长期部署环境，例如个人助理、研究助手、长期代码维护者。对应能力是跨任务经验积累：系统要把过去任务中的失败、偏好、工具经验和环境知识转化为后续可复用能力。

时间跨度扩张

论文引用前沿智能体时间跨度趋势，说明先进系统在软件工程风格任务上的 50% 完成时间跨度已从秒级增长到小时级，整体拟合的翻倍时间约为 196.5 天；若只看 2023 年以来的模型，翻倍速度约为 130.8 天。作者也提醒，这类估计受评测方法、模型版本和样本选择影响，但趋势非常清晰：可委托给智能体的任务长度正在快速增长。这意味着评估智能体不能只看单步准确率或短任务得分。真实价值越来越取决于系统能否在更长轨迹中保持可靠性、成本可控性和错误可恢复性。

与相邻概念的区别

论文特别区分了长程智能体与三个相邻概念。长运行智能体强调运行时间长，但长时间运行并不必然意味着任务具有长程依赖。自主智能体强调人类介入少，但高度自主的短任务系统也未必具备长程能力。自演化智能体强调系统会随经验更新自身策略或结构，而长程智能体可以有自演化能力，也可以主要依靠稳定框架和固定模型完成长任务。因此，长程智能体的核心问题是：模型与框架耦合后，能否持续完成需要多步交互、状态维护、错误恢复和经验迁移的任务。

3 Evolution: From Prompting to Runtime 演化：从提示词到运行时

提示工程阶段

2020 到 2023 年左右，智能体能力主要通过提示词控制。研究者通过思维链、反思、自一致性、树状搜索、工具调用提示等方式，把更复杂的推理结构写入提示中。这一阶段的控制单位仍然接近单次模型调用，优势是简单、通用、易于迁移；局限是状态管理弱，外部反馈难以稳定闭环。

上下文工程阶段

2023 到 2025 年，控制重心从“如何写提示”扩展到“如何构造模型看到的信息”。上下文工程关注检索、记忆、轨迹压缩、状态摘要、任务资料选择和多模态输入组织。它让智能体能够在更长任务中获得相关信息，同时避免无关历史污染当前决策。这一阶段的重要变化是：能力不只来自模型本身，也来自模型输入边界的管理。一个强模型如果被喂入混乱上下文，仍可能失控；一个一般模型若拥有清晰状态和高质量检索，也可能在特定任务中表现稳定。

运行时框架阶段

2025 年以来，长程智能体进入运行时框架阶段。控制对象不再只是提示或上下文，而是完整执行轨迹。系统需要管理任务循环、工具调用、状态转移、多智能体协同、中间检查、错误处理、权限边界和最终交付。论文强调，这三个阶段不是互相取代，而是逐层吸收。优秀的运行时框架仍需要提示工程和上下文工程；只是它们被嵌入到更大的执行系统中，成为长程能力的一部分。

4 Harness: Externalizing Long-Horizon Capability 框架：外化长程能力

六个核心组件

运行时框架是长程智能体的外部能力载体。论文将其拆解为六个组件。第一是循环与工作流。线性工作流适合明确步骤任务，计划执行工作流适合先分解再执行，分支工作流适合探索多个候选路径并择优。长程任务通常需要在这些模式间动态切换。第二是上下文与记忆。工作上下文负责当前任务内的信息选择、压缩和丢弃；持久记忆则跨窗口、跨任务、跨会话保存重要状态。关键不只是“记住更多”，而是决定什么值得进入当前上下文、什么应该沉淀为长期记忆、什么必须被遗忘。第三是工具、协议与技能。工具让智能体能读写文件、运行代码、检索网页、操作浏览器或调用外部系统；MCP 等协议让工具接口更标准化；技能库则把可复用流程封装为可调用能力。对于长程任务，工具选择、参数构造、错误恢复和权限治理同样重要。第四是编排。复杂任务可能需要多个角色或多个智能体协同，例如规划者、执行者、审查者、测试者、研究者。编排机制负责任务分解、角色分配、通信拓扑、结果聚合和反馈路由。第五是钩子与中间件。它们在关键节点插入规则、策略或自适应控制，例如执行前检查危险操作、工具调用后解析错误、阶段结束时触发总结、成本过高时切换策略。第六是验证。长程智能体必须有持续的质量信号，包括中间状态是否合理、工具结果是否可信、最终产物是否满足目标、是否违反安全约束。验证可以来自规则、测试、外部判别器、模型评审、人类反馈或环境奖励。

5 Optimization: Internalizing Long-Horizon Capability 优化：内化长程能力

训练管线

如果说框架让能力在系统外部显式化，那么模型优化就是把长程行为逐步内化到策略中。论文将优化路径概括为从架构基底到数据环境，再到训练生命周期的完整管线。架构层面，显式上下文架构依赖长上下文窗口直接容纳历史；压缩状态架构用隐状态、记忆压缩或状态空间模型降低长序列成本；混合架构结合两者；高吞吐机制则服务于长轨迹采样和推理效率。数据与环境合成负责产生可训练的长程任务。任务合成生成多步目标，环境合成提供可交互世界，轨迹合成则提供成功或失败执行过程。对于智能体训练，数据不只是问答对，而是包含状态、动作、观察、工具返回和奖励的轨迹。预训练与中期训练为模型注入推理先验、长上下文状态、多模态感知和任务混合能力。微调阶段进一步通过指令选择、课程学习和蒸馏，让模型适应具体智能体任务。

强化学习与自演化

智能体强化学习是内化长程能力的关键路径，但也最具挑战。长轨迹中的奖励通常稀疏且延迟，模型需要判断哪些中间动作真正贡献了最终成功，这就是信用分配问题。与此同时，策略优化必须面对高成本采样、环境随机性、工具错误和不可逆行动。论文将智能体强化学习的核心问题概括为信用分配、策略优化、采样策略和交互模式。有效训练不仅要奖励最终答案，还要利用过程信号、阶段性验证、失败轨迹和环境反馈，让模型学会在真实交互中修复路线。自演化进一步把智能体从“被动训练”推向“部署中成长”。离线自演化从历史轨迹中总结经验并更新策略；在线自演化在运行时根据反馈调整记忆、工具或策略；智能体与环境共同演化则强调任务分布、评测环境和智能体能力会相互推动。论文认为，自演化不是长程智能体的同义词，但它会成为跨任务经验积累的重要机制。

6 Application: Long-Horizon Agents in Practice 应用：长程智能体实践

五类应用

论文将长程智能体实践归纳为五类代表性应用。第一是软件工程。智能体需要理解代码库、定位问题、编辑多个文件、运行测试、根据错误日志修复并交付变更。长程能力体现在仓库级 grounding、工作流规划和反馈驱动修复。第二是信息寻求。深度搜索要求智能体沿一个问题持续挖掘证据，广度搜索要求同时比较多个来源，研究综合则要求整理冲突信息、保留引用链并形成可信结论。第三是计算机使用。浏览器、桌面和移动端智能体需要感知界面、执行点击输入、处理弹窗和错误状态，并在不可完全结构化的环境中完成任务。第四是多模态智能体。它们不仅处理文本，还要理解图像、视频、音频或空间环境，并在多模态状态中维持任务目标。长程多模态任务尤其考验记忆压缩和跨模态对齐。第五是通用智能体。个人助理、具身智能体和生产型智能体需要跨任务、跨场景工作，长期维护用户偏好、环境知识和工具经验。

论文还系统整理了相关基准与资源。一个好的长程评测不能只统计最终是否成功，还应关注轨迹质量、成本预算、错误恢复、安全性、可复现性和真实环境迁移能力。随着任务跨度变长，评测本身也会从静态问答转向可交互环境和真实工作流。

7 Frontier: Open Challenges and Outlooks 前沿：开放挑战与展望

四条前沿轴线

论文将开放挑战概括为四条轴线。第一是演化能力。未来智能体需要更强的自演化框架、更好的框架泛化与迁移能力，以及持续学习能力。关键问题是如何让经验积累真正提升未来任务，而不是把偶然偏差固化为错误习惯。第二是有效性。智能体需要在更真实的环境中行动，包括动态网页、真实软件栈、复杂物理空间和多主体场景。数字环境到具身环境的迁移会放大感知误差、执行延迟和安全约束。第三是效率。长程任务天然昂贵，会消耗大量上下文、推理次数、工具调用和多模态计算。未来系统必须具备预算感知能力，在质量、成本和时间之间做动态权衡。第四是可信性。长程智能体的失败不一定突然发生，更多时候是缓慢漂移、错误累积或不安全操作。系统需要更强的反思与错误鲁棒性，也需要权限、审计、治理和人类监督机制。

8 Conclusion 结论

这篇综述的核心贡献，是把长程智能体从模糊概念整理为一个清晰的系统研究对象。长程能力不是“模型更聪明”的单点结果，而是模型、运行时框架、工具生态、记忆机制、训练数据、强化学习和验证体系共同作用的结果。从实践角度看，下一代智能体系统需要同时回答三个问题：如何把任务拆成可执行、可恢复、可验证的轨迹；如何让模型在长轨迹中保持目标一致和状态连续；如何把运行经验转化为可迁移的长期能力。只有当外部框架与内部优化真正协同演化，智能体才可能从短程交互工具走向可靠的长期工作伙伴。

相关内容