Enterprise AI systems increasingly deploy multiple intelligent agents across mission-critical workflows that must satisfy hard policy constraints, bounded risk exposure, and comprehensive auditability (SOX, HIPAA, GDPR). Existing coordination methods - cooperative MARL, consensus protocols, and centralized planners - optimize expected reward while treating constraints implicitly. This paper introduces CAMCO (Constraint-Aware Multi-Agent Cognitive Orchestration), a runtime coordination layer that models multi-agent decision-making as a constrained optimization problem. CAMCO integrates three mechanisms: (i) a constraint projection engine enforcing policy-feasible actions via convex projection, (ii) adaptive risk-weighted Lagrangian utility shaping, and (iii) an iterative negotiation protocol with provably bounded convergence. Unlike training-time constrained RL, CAMCO operates as deployment-time middleware compatible with any agent architecture, with policy predicates designed for direct integration with production engines such as OPA. Evaluation across three enterprise scenarios - including comparison against a constrained Lagrangian MARL baseline - demonstrates zero policy violations, risk exposure below threshold (mean ratio 0.71), 92-97% utility retention, and mean convergence in 2.4 iterations.


翻译:企业AI系统越来越多地在关键工作流中部署多个智能体,这些工作流必须满足硬性策略约束、有限风险暴露和全面审计要求(SOX、HIPAA、GDPR)。现有协调方法——包括合作式多智能体强化学习、共识协议和集中式规划器——在优化期望收益时隐式处理约束。本文提出CAMCO(约束感知多智能体认知编排),这是一种将多智能体决策建模为约束优化问题的运行时协调层。CAMCO集成三种机制:(i)通过凸投影强制执行策略可行动作的约束投影引擎;(ii)自适应风险加权拉格朗日效用塑形;以及(iii)具有可证明有界收敛性的迭代协商协议。与训练时约束强化学习不同,CAMCO作为部署时中间件运行,兼容任意智能体架构,其策略谓词设计可直接集成OPA等生产引擎。在三种企业场景中的评估(包括与约束拉格朗日多智能体强化学习基线对比)表明:零策略违反、风险暴露低于阈值(均值比0.71)、效用保持92-97%,以及平均2.4次迭代内收敛。

0
下载
关闭预览

相关内容

多智能体协作机制
专知会员服务
27+阅读 · 4月25日
AI 智能体系统:体系架构、应用场景及评估范式
中文版 | 集中式与分布式多智能体AI协调策略
专知会员服务
24+阅读 · 2025年5月8日
面向关系建模的合作多智能体深度强化学习综述
专知会员服务
43+阅读 · 2025年4月18日
《高级AI带来的多智能体风险》最新97页干活技术报告
专知会员服务
47+阅读 · 2025年3月4日
先进人工智能的多智能体风险
专知会员服务
29+阅读 · 2025年2月22日
【AAMAS教程】多智能体优化,241页ppt
专知会员服务
68+阅读 · 2024年3月1日
多智能体协同决策方法研究
专知会员服务
136+阅读 · 2022年12月15日
浅谈群体智能——新一代AI的重要方向
中国科学院自动化研究所
44+阅读 · 2019年10月16日
基于车路协同的群体智能协同
智能交通技术
10+阅读 · 2019年1月23日
【智能制造】新一代智能制造:人工智能与智能制造
产业智能官
17+阅读 · 2018年8月11日
智能时代如何构建金融反欺诈体系?
数据猿
12+阅读 · 2018年3月26日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
国家自然科学基金
19+阅读 · 2008年12月31日
Arxiv
0+阅读 · 4月20日
VIP会员
最新内容
反制无人机:乌克兰提供的五点启示
专知会员服务
4+阅读 · 9月23日
《各指挥层级均亟需红队能力》报告
专知会员服务
5+阅读 · 9月23日
《航电任务系统框架(FAMOS)》50页报告
专知会员服务
4+阅读 · 9月22日
《对抗行动中的人工智能与自主性》智库报告
专知会员服务
7+阅读 · 9月22日
《从数据到胜利:战争中的分析优势之争》
专知会员服务
9+阅读 · 9月22日
战争不仅需要机器人:人类仍不可或缺
专知会员服务
5+阅读 · 9月21日
《描绘美国防部创新基础设施的未来蓝图》100页
专知会员服务
10+阅读 · 9月21日
相关VIP内容
多智能体协作机制
专知会员服务
27+阅读 · 4月25日
AI 智能体系统:体系架构、应用场景及评估范式
中文版 | 集中式与分布式多智能体AI协调策略
专知会员服务
24+阅读 · 2025年5月8日
面向关系建模的合作多智能体深度强化学习综述
专知会员服务
43+阅读 · 2025年4月18日
《高级AI带来的多智能体风险》最新97页干活技术报告
专知会员服务
47+阅读 · 2025年3月4日
先进人工智能的多智能体风险
专知会员服务
29+阅读 · 2025年2月22日
【AAMAS教程】多智能体优化,241页ppt
专知会员服务
68+阅读 · 2024年3月1日
多智能体协同决策方法研究
专知会员服务
136+阅读 · 2022年12月15日
相关资讯
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
国家自然科学基金
19+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员