Reinforcement learning (RL) has shown promising results in active flow control (AFC), yet progress in the field remains difficult to assess as existing studies rely on heterogeneous observation and actuation schemes, numerical setups, and evaluation protocols. Current AFC benchmarks attempt to address these issues but heavily rely on external computational fluid dynamics (CFD) solvers, are not fully differentiable, and provide limited 3D and multi-agent support. To overcome these limitations, we introduce FluidGym, the first standalone, fully differentiable benchmark suite for RL in AFC. Built entirely in PyTorch on top of the GPU-accelerated PICT solver, FluidGym runs in a single Python stack, requires no external CFD software, and provides standardized evaluation protocols. We present baseline results with PPO and SAC and release all environments, datasets, and trained models as public resources. FluidGym enables systematic comparison of control methods, establishes a scalable foundation for future research in learning-based flow control, and is available at https://github.com/safe-autonomous-systems/fluidgym.


翻译:强化学习在主动流动控制领域已展现出良好前景,但该领域的进展仍难以评估,因为现有研究依赖于异构的观测与执行方案、数值设置及评估协议。当前流动控制基准测试尝试解决这些问题,但严重依赖外部计算流体动力学求解器,不具备完全可微性,且对三维与多智能体场景的支持有限。为突破这些限制,我们提出了首个面向流动控制强化学习的独立、完全可微基准测试套件FluidGym。该框架完全基于PyTorch构建于GPU加速的PICT求解器之上,在单一Python栈中运行,无需外部计算流体动力学软件,并提供标准化评估协议。我们展示了PPO与SAC算法的基线结果,并将所有环境、数据集及训练模型作为公共资源发布。FluidGym实现了控制方法的系统性比较,为未来基于学习的流动控制研究建立了可扩展的基础,项目地址为https://github.com/safe-autonomous-systems/fluidgym。

0
下载
关闭预览

相关内容

面向强化学习的可解释性研究综述
专知会员服务
44+阅读 · 2024年7月30日
基于学习机制的多智能体强化学习综述
专知会员服务
61+阅读 · 2024年4月16日
基于无标签视频数据的深度预测学习方法综述
专知会员服务
35+阅读 · 2022年5月16日
专知会员服务
100+阅读 · 2021年7月11日
专知会员服务
65+阅读 · 2021年4月22日
基于模型的强化学习综述
专知
42+阅读 · 2022年7月13日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
【微软亚研130PPT教程】强化学习简介
专知
37+阅读 · 2018年10月26日
一文了解强化学习
AI100
15+阅读 · 2018年8月20日
基于强化学习的量化交易框架
机器学习研究会
30+阅读 · 2018年2月22日
入门 | 从Q学习到DDPG,一文简述多种强化学习算法
国家自然科学基金
42+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
国家自然科学基金
11+阅读 · 2008年12月31日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
42+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
国家自然科学基金
11+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员