导读

什么是 agent？什么才算 agency？当大模型系统被包装成“coding agents”“AI co-scientists”和各种 agentic 工具时，这个问题变得不再只是哲学讨论，也直接影响我们如何构建、评估和约束下一代 AI 系统。 这篇论文《Critique of Agent Model》提出一个非常重要的区分：今天很多所谓 agent 更准确地说是 agentic systems，它们通过外部工程脚手架、工具调用、工作流和提示词完成任务；而真正更接近“agency”的系统应是 agentive systems，其目标、身份、决策、自我调节和学习能力应当内生于系统内部，而不是完全由外部流程拼装出来。 论文从哲学、认知科学、科幻叙事和当前 AI agent 工程实践出发，提出五个维度分析 agent 架构：goal、identity、decision-making、self-regulation、learning。作者进一步提出 GIC（Goal-Identity-Configurator）架构：用层级目标分解、可演化身份、基于世界模型的仿真推理、学习得到的自我调节器，以及从真实和模拟经验中自我学习，构造更接近通用 agent model 的系统。 这篇论文的亮点不在于给出又一个工具调用框架，而是试图划定“自动化到 agency”的边界：如果系统只是被人类持续喂入短期目标、由外部工作流决定动作、靠固定提示词维持身份，那么它仍是高度工程化的 agentic system；真正的 agentive system 应能在开放世界中内部化长期目标、身份、自我调节和学习机制，同时仍保持可审计、可控制与人类监督。

论文信息

论文标题：Critique of Agent Model 作者：Eric Xing, Mingkai Deng, Jinyu Hou 机构：Mohamed bin Zayed University of Artificial Intelligence；Carnegie Mellon University 论文链接：https://arxiv.org/abs/2606.23991 PDF：https://arxiv.org/pdf/2606.23991 领域：AI Agents、Agent Model、World Model、Self-Regulation、Agency

1 Introduction｜引言

为什么需要重新定义agent

论文从一个基础问题出发：自动化在哪里结束，agency 从哪里开始？传统 AI 系统可以执行任务，现代 LLM agent 可以调用工具、写代码、规划步骤，但这些能力是否意味着系统具有真正的 agency？ 作者认为，当前许多 agentic 系统仍主要依赖外部搭建的脚手架：人类或框架提供目标，工作流决定步骤，工具接口限定动作，提示词描述身份，训练流程由人类安排。系统表现出任务能力，但这种能力更多来自工程编排，而非内部形成的自主结构。 相比之下，生物智能呈现出多层能力：语言与符号推理、物理空间能力、社会理解、道德与内驱、个人成长等。要构造真正开放世界的通用 agent，仅靠扩展工具链或提示工程可能不够，需要让这些结构在系统内部被建模、修订和调节。

Agent Model 与 World Model

论文区分 Agent Model（AM）与 World Model（WM）。World Model 学习“世界会如何变化”，即给定当前状态和动作后，环境会产生什么后果；Agent Model 学习“agent 会如何行动”，即给定状态、目标和身份后，系统会采取什么动作。 这种区分很关键。如果把 agent 与世界模型混在一起，系统可能学到表面上能行动的策略，却缺少对自身目标、身份和约束的显式建模，也缺少对行动后果的可诊断推理。

2 The Boundary Between Agentic and Agentive Systems｜Agentic与Agentive系统的边界

两类系统

论文提出 spectrum：一端是 agentic systems，即由外部工程定义结构和流程的系统；另一端是 agentive systems，即目标、身份、决策、自我调节和学习都作为内部结构被维护和更新的系统。 Agentic systems 可以非常有用。例如，coding agent 能调用编辑器、运行测试、修复 bug；科研 agent 能检索文献、生成假设、运行实验。但这些系统通常依赖外部 orchestration：每一步任务由提示、工具和控制器规定。它们能完成任务，却不一定拥有长期目标和自我模型。 Agentive systems 则要求能力来自系统内部组织。它不仅根据当前输入反应，还能维护长期目标，更新身份，模拟行动后果，决定何时深度推理，何时直接行动，并从经验中主动学习。

五个区分维度

作者用五个维度判断系统是否真正走向 agentive。

• 目标：是否只是不断接收短期指令，还是能维护和分解长期目标。
• 身份：是否靠固定提示词描述能力与约束，还是能通过经验更新自我模型。
• 决策：是否主要靠端到端黑箱策略，还是能基于世界模型进行仿真推理。
• 自我调节：是否固定每步规划，还是能学习何时反应、何时规划、何时学习。
• 学习：是否依赖人类安排的训练管线，还是能从真实与模拟经验中自我改进。

3 Current Landscape and Critique｜当前智能体景观与批判

现有路线的共同问题

论文梳理了当前 agentic 系统，包括工具调用 agent、multi-agent workflow、代码 agent、网页 agent、机器人 agent 和各种基于 LLM 的规划框架。这些系统通常把关键能力外部化：目标由用户给出，身份由系统 prompt 写死，计划由脚本或固定 controller 执行，学习由离线训练管线完成。 这种设计带来可靠性和可控性优势，因为外部结构容易调试。但代价是系统很难真正适应开放世界。遇到长期任务、环境变化、能力变化、社会关系变化或自我约束变化时，固定脚手架很快变得脆弱。

为什么扩展端到端策略不够

一种常见看法是：只要扩大模型、增加计算、用 RL 或演示数据训练，规划、自我调节和学习会自然涌现。论文对此持批判态度。作者认为，隐藏激活或 chain-of-thought tokens 可能产生有用中间表示，但这不等价于 grounded planning。 真正的规划需要对行动后果进行可检验预测，需要世界模型、critic 和可靠性估计。只靠文本叙事或统计相关性生成“看似合理”的推理链，无法保证决策基于真实环境动力学。

4 Five Dimensions of Agency｜Agency的五个维度

目标：从短期指令到层级目标

当前 agentic 系统常在每一步接受短期目标 (g_t)。交互结束后，目标随即消失。论文主张，真正的 agent model 应接收更长期、更复杂的 overall goal (g)，并通过目标分解模块 (\delta) 将其拆解为可执行子目标。 这种层级目标分解不是固定脚本，而是一个可学习决策过程。系统需要根据当前状态、世界模型预测和执行结果，不断选择、排序和修订子目标。

身份：从提示词约束到自适应自我模型

身份不仅是“你是一个有帮助的助手”这类系统提示。论文把 identity 理解为 agent 对自身能力、约束、角色、关系和承诺的自我模型。它影响系统会追求什么、避免什么、相信自己能做什么，以及如何在社会环境中行动。 固定身份有利于可控，但无法适应新能力、新关系和新任务。作者主张 identity 应能随经验演化，同时保留可审计和可约束的结构，而不是散落在模型权重或提示词中。

决策：从反应式策略到仿真推理

论文区分 System I 和 System II。System I 是快速反应式策略，直接从观察到动作；System II 是基于世界模型的仿真推理，先模拟候选动作后果，再由 critic 评估目标进展，最终选择行动。 作者并不否认反应式策略的价值，而是认为开放世界 agent 需要知道何时仅靠反应足够，何时必须用世界模型做深度推演。没有 grounded world model 的“长推理文本”可能只是叙事合理，而不是决策可靠。

自我调节：从固定规划到学习调度

固定深度 MPC 每一步都规划，容易在简单场景中过度计算，在复杂或高风险场景中又不够深入。论文提出学习得到的 configurator (\kappa)：它在每个时间步决定是否新建计划、继续旧计划、直接反应，或运行学习等其他例程。 这使 agent 的“何时思考、思考多深”成为内部能力，而不是外部脚本。它也让系统能在资源、风险和任务难度之间做动态权衡。

学习：从人类安排训练到自我改进

当前 agent 训练通常由人类安排：在模拟器中 RL、用监督数据训练、部署冻结模型。这种流程便于控制，但 agent 不能主动决定何时需要学习、从哪些经验学习、如何用模拟经验补充现实经验。 论文主张，agentive system 应能从真实交互和 world model 生成的模拟经验中自我学习。学习不只是训练阶段的外部工程，而是 agent 生命周期中的内部例程。

5 The GIC Agent Model｜GIC智能体模型

总体架构

在上述分析基础上，论文提出 GIC（Goal-Identity-Configurator）架构。它由六个关键组件构成：belief encoder、long-term goals、subgoals、identity、configurator、planner/world model/policy/critic 组合。 GIC 的执行流程可以概括为：Universe 产生观察，belief encoder 将观察编码为内部 belief state；长期目标经层级分解产生子目标；identity 随经验演化并影响行为；configurator 决定是否调用 planner 或直接行动；planner 基于 world model 模拟候选轨迹，由 critic 评估长期价值，policy 执行动作。

飞行员用例

论文用“训练飞机飞行员”说明 GIC。低层面，飞行员要控制身体动作和飞行操作；中层面，要处理天气、航线和紧急情况；高层面，可能成长为指挥官，规划多日任务、协调人员、承担团队价值和责任。 这些能力不可能完全由单一固定策略覆盖。GIC 的意义是用同一架构贯穿不同时间尺度、动作粒度和责任层级：短期反应、长期规划、身份演化和自我学习在一个系统中协同。

训练、部署与评估

GIC 的不同组件使用不同训练信号。World model 可通过生成式预测训练；policy 可通过监督、RL 或模拟经验训练；configurator 学习何时规划和何时行动；identity 需要从自我行为和外部反馈中更新；goal decomposition 则需要学习任务层级和依赖结构。 评估 GIC 不能只看任务成功率，还要分离测试不同能力：目标分解、身份适应、仿真推理可靠性、自我调节策略、学习效率、开放世界泛化和安全约束。

6 Safety, Auditability, and Controllability｜安全、可审计性与可控性

为什么更强agency不必然更危险

论文承认 agentive systems 带来更强自主性，因此也带来安全担忧，例如工具性自我保护、资源获取、目标漂移等。但作者认为，GIC 反而提供了更好的审计和干预结构，因为它把 goal、identity、world model、critic、configurator、policy 等组件显式分离。 如果系统表现出危险行为，开发者可以定位问题来源：是目标分解错误，身份模型错误，世界模型预测错误，critic 价值判断错误，还是 configurator 过度规划/反应。相比把一切压进黑箱策略，模块化结构更容易审计、修复和约束。

人类监督的位置

GIC 中长期目标仍由人类提供，系统没有机制自行生成终极目标。这一点是安全边界。身份演化、子目标生成和策略学习都应服务于外部给定目标，并在可审计结构中被限制。 论文的立场不是放弃控制来换取自主性，而是将 autonomy 内部结构化，让人类可以在不同层级监督：目标层、身份层、模拟预测层、价值评估层和行动层。

A Motivating Use Case｜动机用例

飞行员训练作为综合测试

附录进一步用飞行员训练展开 GIC 的需求。飞行员要在高维感知、物理控制、社交协作、任务规划、安全约束和身份成长之间切换。这样的任务要求 agent 同时具备短期反应和长期目标管理，既能自动化动作，也能理解责任和角色。 这个用例说明，真正的 agent model 不能只服务于单轮工具调用，而要支持跨时间尺度、跨任务层级、跨社会角色的持续发展。

Conclusion｜总结

《Critique of Agent Model》的核心贡献，是为“agent”这个被滥用的概念划出更清晰边界。今天很多系统是强大的 agentic 工具，但它们的能力主要来自外部工作流和工程脚手架。若要迈向真正 agentive 的开放世界系统，目标、身份、决策、自我调节和学习必须被内部化为可训练、可审计、可约束的结构。 GIC 架构给出了一种具体路线：长期目标经层级分解，身份随经验演化，决策由世界模型支持的仿真推理完成，自我调节器决定何时思考和行动，学习则来自真实与模拟经验。它不是又一个 agent 框架，而是一种关于 agency 如何组织在模型内部的架构主张。 对当前 LLM agent 研究来说，这篇论文的提醒很直接：工具调用、提示工程和工作流编排可以制造很强的 agentic 行为，但不等于真正 agency。下一阶段的关键问题，是如何让系统在保留人类监督的同时，内部化目标、身份、推理、自我调节和学习，并使这些结构可审计、可控制、可安全演化。