未来军事人工智能的形态，或许并非由某个全知全能的机器在遥远指挥中心统御战场，而是DARPA正着手探索由海量AI智能体构成的集群——它们能够自主组织、分解任务、适应混乱，即便部分成员失效、失联或叛变，仍能持续运作。

美国国防高级研究计划局（DARPA）已正式启动名为“受控涌现式分布式人工智能”（DICE）的新项目，旨在开发可在对抗环境中运行的AI集群，无需人类或中央AI规划器对每项行动进行显式指令下达。

至项目最终阶段，DARPA要求研究人员测试模拟集群，其中包含多达十万个AI智能体，在协作达成共同目标的过程中交换信息量高达百万条。

最新发布的招标公告将DICE定义为一项为期36个月的计划，重点围绕去中心化、对抗鲁棒性及大规模测试三大方向展开。“未来冲突将以机器速度展开，而当前集中式规划与脚本化编排模式过于迟缓、僵化且可预测，难以适应未来超动态、对抗性极强的作战环境，”研究人员指出，“应对突发状况、实现自适应与韧性，将取决于按需动态组合与重构AI能力的水准。”

DARPA的DICE项目立足于一个基本前提：当前多智能体AI的路径存在严重缺陷。大多数涉及多个AI智能体的系统仍依赖某种形式的中央编排器。

可将其类比为一位管理者督导一支专业分工的团队：一AI负责搜集情报，另一AI负责分析研判，第三AI制定计划，第四AI执行特定任务。然而，系统内总存在一个中央规划器或工作流来决定分工并整合结果。

这种模式在可预测任务中尚可应付，但DARPA认为其在战场上可能极为脆弱。

中央编排器会形成瓶颈，因为每一项日趋复杂的任务最终都必须流经单一的决策结构。随着智能体数量、角色及交互关系的增长，中央规划器必须处理更多信息、维持更大上下文，并协调日益庞大的专业系统网络。

DARPA指出，即便是AI编排器，终将触及底层基础模型的上下文与推理上限。更显著的军事隐患在于：中央指挥节点是单一故障点。

一旦通信受阻、信息迟滞或编排器本身遭渗透，错误便可能在整个AI集群中蔓延。在未来冲突中，电子战、网络攻击、欺骗手段与通信中断将成为常态而非例外，此类脆弱性恐招致灾难性后果。

DICE提出了一种截然不同的范式。

它摒弃中央AI下达指令的模式，转而让个体AI智能体直接相互通信。它们可组建临时团队、将任务拆解为子项、协商角色分工、整合残缺信息，并随环境变化自主重组。

DARPA将此理念类比互联网架构——稳健的全球性行为可从相对简单的本地规则与去中心化交互中涌现。

本质上，某AI智能体接收任务后，若判定仅部分目标在其能力范围内，便可主动承接该部分，并将剩余问题广播至邻近智能体。

另一智能体可接手下一任务。其他智能体亦可竞争同一任务，或基于成本与能力进行“竞价”。通过持续的局部交互与分布式共识，集群可逐步自主拼合出完整的任务方案。

若某智能体失效，无需全盘重划任务，其分担的具体工作仅需重新向集群开放即可。

DARPA将这一宏观理念称为“受控涌现”。

自然界早有类似系统：蚁群或鸟群能展现出惊人的复杂群体行为，尽管单个成员对整体并无完备认知。

计算机科学家对此类现象研究已久。DARPA的招标书甚至提及康威“生命游戏”——这一著名数学模拟中，极简规则即可催生极度复杂的演化模式。

真正的挑战在于将此原理应用于具备推理、规划及自主追寻目标能力的认知系统。

一个成熟的AI系统能够解读模糊信息、调用工具、维持记忆并生成中间目标。当成千上万此类智能体互联互通，整个集群的行为方式可能远超预设程序范畴。

这种不可预测性正是DICE项目的魅力与风险并存之处。

DARPA期望集群保有足够创造力以发掘意料之外的行动路径，但同时要求个体智能体始终锚定其指定角色、整体任务、既有条令，并最终契合人类用户的意图。

过度管控将催生可预测却丧失适应力的AI力量；管控不足则可能导致智能体偏离角色，或滋生DARPA所称的与任务不符的“工具性目标”。

换言之，这家五角大楼下属研究机构追求的是“有边界的涌现”。

为破解此难题，DICE研究人员将开发一种本地适配器，作为每个AI智能体的接口。该适配器并非中央指挥系统，而是在本地运行，协助智能体与同伴协调，同时监控并修正其行为。

对于可访问内部激活状态的AI模型，研究人员或将尝试“激活引导”等技术。

其核心思路在于：为AI指派特定角色会在模型内部形成可检测的模式。研究人员或可识别与该角色关联的数学表征，并在智能体出现偏移时持续将其引导回正轨。DARPA将这些表征描述为潜在的“角色向量”。

对于无法检视内部激活状态的专有或黑盒AI模型，挑战则艰巨得多。DICE研究团队可能转而尝试记忆编辑、上下文工程、工具限制，甚至设计博弈论激励机制以引导协作行为。

招标书引人注目地将此过程类比人类社会规范的形成与传播。随着AI模型推理能力增强及对运行语境的认知深化，DARPA提出，这种曾引发人们对失控AI忧虑的智能进化，亦可成为管控的新途径。

DARPA最终构想的规模极为宏大。

在DICE的首个九个月阶段，模拟任务预计涉及约500个智能体及5000次交互。DARPA将把去中心化系统与时下最先进的中央编排多智能体AI系统进行比对。

第二阶段将目标提升至5000个智能体及5万次交互，并引入对抗条件。智能体可能出现故障、接收欺骗信息，或蓄意扮演被渗透或叛变的集群成员。

至最后12个月阶段，DICE旨在测试涉及十万个智能体及百万次交互的模拟。

在此规模下，DARPA绝非仅研究更高效的聊天机器人协作，而是在探索集体智能本身能否转化为一种军事能力。

招标书中设想了一例：AI智能体在整个冲突生态系统中实施作战规划。部分智能体可在争议区谈判原材料获取；另一些或管理供应链、优化生产、部署部队、实施战斗管控或分析战后损毁。

甚至单个模拟无人机亦可实质成为一个微型AI集群，由独立的导航、感知与组网智能体构成。

在DICE理念下，这些能力可随环境变化动态重组。DARPA举例：当集群识别出新兴通信需求时，一架侦察无人机可被重新配置为网络路由器。

关键在于，无需中央规划器预先预见此方案——它由集群自主发现。

尽管如此，DARPA谨慎申明DICE是一项聚焦模拟的研究计划。该机构项目官网明确其范畴不包含现实世界中自主系统的研发或部署。

相反，DICE将运用与战争部相关的模拟环境，衡量去中心化AI集群能否优于当前的中央编排系统。此类模拟或可类比超大规模复杂战略博弈。

DARPA建议研究人员可从《星际争霸》或大型多人在线角色扮演游戏中汲取灵感，但环境设定须紧扣军事课题。高保真物理模拟并非必需——事实上，若对十万个AI智能体驱动的每架无人机、每辆战车及每次战场交互进行照片级细节渲染，计算上将无法实现。

核心在于推理能力。DARPA旨在探究成千上万AI智能体能否在避免彼此错误假设相互强化的前提下，收集并整合碎片化信息。测试将检验系统识别欺骗、隔离受损智能体、通信中断时自适应，以及在数千步推理中保持任务聚焦的能力。

或许最为重要的是，DICE旨在审视当这些巨型AI集群的交互产生设计者未曾预料的结果时将如何表现。 DARPA明确要求测试环境应能诱发涌现性协作、竞争乃至共谋行为。

在后期阶段，DICE研究团队将在模拟的“团队对决淘汰赛”中相互较量。第二阶段将以竞赛收官，遴选晋级团队。最终阶段将在系统逼近全规模运行时，再次举行正面交锋。

至第三阶段，项目将引入另一重大变量：AI智能体创造其他AI智能体。这一演进凸显了DICE内核的深层张力。

多年来，AI安全讨论多聚焦于防范自主系统显现不可预见行为。DARPA则从另一维度切入：该机构似乎确信，在未来对抗环境中，某种程度的不可预见行为或正是AI集群价值的源泉。

一个完全脚本化的系统，不仅对己方指挥官可预测，对敌方亦然。

因此，DICE所图远不止构建更大的多智能体AI框架。DARPA意在探究工程师能否刻意培育涌现性机器智能，赋予其足够的临场应变自由度，同时构建足以将庞大AI集群约束于人类定义任务轨道的控制机制。

这些相互竞合的需求能否共存，仍是未解之谜。项目招标书本身亦反复承认角色偏移、欺骗性智能体、共谋、系统渗透及AI自主衍生错位行为的可能性。

归根结底，这些并非次要问题，而是DICE项目旨在回应的根本命题。

“DICE正是为这种由自主权驱动、快节奏的作战空间而生，”招标书如此表述，“这是一个成功取决于自主集群在混乱与不确定面前，持续展现创造性执行任务能力的未来。这是对过往模式的深刻且必要的背离。”

https://thedebrief.org/darpa-wants-to-build-an-army-of-100000-ai-agents-that-can-think-and-act-on-their-own-dice/