Quality diversity (QD) is a branch of evolutionary computation that seeks high-quality and behaviorally diverse solutions to a problem. While adversarial problems are common, classical QD cannot be easily applied to them, as both the fitness and the behavior depend on the opposing solutions. Recently, Generational Adversarial MAP-Elites (GAME) has been proposed to coevolve both sides of an adversarial problem by alternating the execution of a multi-task QD algorithm against previous elites, called tasks. The original algorithm selects new tasks based on a behavioral criterion, which may lead to undesired dynamics due to inter-side dependencies. In addition, comparing sets of solutions cannot be done directly using classical QD measures due to side dependencies. In this paper, we (1) use an inter-variants tournament to compare the sets of solutions, ensuring a fair comparison, with 6 measures of quality and diversity, and (2) propose two tournament-informed task selection methods to promote higher quality and diversity at each generation. We evaluate the variants across three adversarial problems: Pong, a Cat-and-mouse game, and a Pursuers-and-evaders game. We show that the tournament-informed task selection method leads to higher adversarial quality and diversity. We hope that this work will help further advance adversarial quality diversity. Code, videos, and supplementary material are available at https://github.com/Timothee-ANNE/GAME_tournament_informed.


翻译:质量多样性(Quality Diversity,QD)是进化计算的一个分支,旨在为问题寻找高质量且行为多样化的解。尽管对抗性问题普遍存在,但经典QD方法难以直接应用于此类问题,因为其适应度与行为均依赖于对抗方的解。最近,研究者提出了代际对抗性MAP-Elites(GAME)算法,通过交替执行多任务QD算法来协同进化对抗问题的双方,其中先前精英解被视作任务。原始算法基于行为准则选择新任务,可能因双方依赖关系导致非期望的动态演化。此外,由于存在对抗方依赖,直接使用经典QD指标比较解集存在困难。本文中,我们(1)采用变体间锦标赛机制比较解集,通过6项质量和多样性指标确保公平比较;(2)提出两种基于锦标赛信息的任务选择方法,以促进每一代获得更高质量和多样性的解。我们在三个对抗性问题(Pong游戏、猫鼠博弈及追逃游戏)中评估了算法变体。实验表明,基于锦标赛信息的任务选择方法能显著提升对抗性质量与多样性。我们希望这项工作能进一步推动对抗性质量多样性研究的发展。代码、视频及补充材料详见 https://github.com/Timothee-ANNE/GAME_tournament_informed。

0
下载
关闭预览

相关内容

多样化偏好优化
专知会员服务
12+阅读 · 2025年2月3日
【NeurIPS 2023】Mix-ME:多智能体学习的质量多样性
专知会员服务
17+阅读 · 2023年11月6日
【KDD2023】对领域泛化的异质性进行定量度量和对比分析
专知会员服务
24+阅读 · 2023年5月29日
专知会员服务
37+阅读 · 2021年5月29日
专知会员服务
37+阅读 · 2021年4月18日
异质信息网络分析与应用综述,软件学报-北京邮电大学
【浙江大学】对抗样本生成技术综述
专知会员服务
92+阅读 · 2020年1月6日
赛尔笔记 | 多模态信息抽取简述
专知
29+阅读 · 2020年4月12日
SemanticAdv:基于语义属性的对抗样本生成方法
机器之心
14+阅读 · 2019年7月12日
标签间相关性在多标签分类问题中的应用
人工智能前沿讲习班
23+阅读 · 2019年6月5日
跨多个异构数据源的实体对齐
FCS
15+阅读 · 2019年3月13日
推荐算法:Match与Rank模型的交织配合
从0到1
15+阅读 · 2017年12月18日
国家自然科学基金
0+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员