Quality-Diversity (QD) algorithms seek to discover diverse, high-performing solutions across a behavior space, in contrast to conventional optimization methods that target a single optimum. Adversarial problems present unique challenges for QD approaches, as the competing nature of opposing sides creates interdependencies that complicate the evolution process. Existing QD methods applied to such scenarios typically fix one side, constraining the open-endedness. We present Generational Adversarial MAP-Elites (GAME), a coevolutionary QD algorithm that evolves both sides by alternating which side is evolved at each generation. By integrating a vision embedding model (VEM), our approach eliminates the need for domain-specific behavior descriptors and instead operates on video. We validate GAME across three distinct adversarial domains: a multi-agent battle game, a soft-robot wrestling environment, and a deck building game. We validate that all its components are necessary, that the VEM is effective in two different domains, and that GAME finds better solutions than one-sided QD baselines. Our experiments reveal several evolutionary phenomena, including arms race-like dynamics, enhanced novelty through generational extinction, and the preservation of neutral mutations as crucial stepping stones toward the highest performance. While GAME successfully illuminates all three adversarial problems, its capacity for truly open-ended discovery remains constrained by the nature of the search spaces used in this paper. These findings show GAME's broad applicability and highlight opportunities for future research into open-ended adversarial coevolution. Code and videos are available at: https://github.com/Timothee-ANNE/GAME


翻译:质量多样性(QD)算法旨在探索行为空间中多样化且高性能的解决方案,与传统优化方法追求单一最优解不同。对抗性问题对QD方法提出了独特挑战,因为对立双方的竞争特性产生的相互依赖关系使进化过程复杂化。现有应用于此类场景的QD方法通常固定一方,限制了开放性。我们提出世代对抗MAP-Elites(GAME),一种协同进化QD算法,通过交替进化双方(每代交替进化一方)实现双方共同进化。通过集成视觉嵌入模型(VEM),该方法无需特定领域的行为描述符,而是直接基于视频进行操作。我们在三个不同的对抗领域验证了GAME:多智能体对战游戏、软体机器人摔跤环境和卡牌构筑游戏。实验表明:所有组件均不可或缺,VEM在两个不同领域均有效,且GAME找到的解决方案优于单侧QD基线。我们的实验揭示了多种进化现象,包括军备竞赛式动态、通过世代灭绝增强新颖性,以及将中性突变作为迈向最高性能的关键阶梯。尽管GAME成功揭示了所有三个对抗性问题,其真正开放式发现的能力仍受限于本文所用搜索空间的性质。这些发现展示了GAME的广泛适用性,并为未来开放式对抗性协同进化的研究提供了机遇。代码及视频获取地址:https://github.com/Timothee-ANNE/GAME

0
下载
关闭预览

相关内容

智能博弈对抗算法及其在情报领域中的应用*
专知会员服务
39+阅读 · 2024年12月1日
【NeurIPS 2023】Mix-ME:多智能体学习的质量多样性
专知会员服务
17+阅读 · 2023年11月6日
专知会员服务
26+阅读 · 2021年4月21日
面向多智能体博弈对抗的对手建模框架
专知
18+阅读 · 2022年9月28日
SemanticAdv:基于语义属性的对抗样本生成方法
机器之心
14+阅读 · 2019年7月12日
learn to see in the dark-低照度图像增强算法
计算机视觉life
16+阅读 · 2019年1月14日
【学界】基于条件深度卷积生成对抗网络的图像识别方法
GAN生成式对抗网络
16+阅读 · 2018年7月26日
国家自然科学基金
0+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
55+阅读 · 2011年12月31日
Arxiv
0+阅读 · 3月25日
Arxiv
0+阅读 · 3月4日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
1+阅读 · 今天15:00
21世纪的无人机战争
专知会员服务
2+阅读 · 今天14:05
《量子技术的军事任务技术适配与利用》
专知会员服务
2+阅读 · 今天13:51
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关基金
国家自然科学基金
0+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
55+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员