强化学习(RL)日益被用于为复杂动态系统(如空战仿真)开发智能控制策略。本报告回顾了若干开源框架,包括JSBSim、FlightGear、CyberBattleSim、CloseAirCombat和DogFight2,重点关注其对基于强化学习的飞行器仿真与多智能体研究的适用性。该评估考量了各平台的灵活性、集成便捷性以及对各类强化学习方法的支持。基于上述分析,本报告提出了一种模块化仿真框架,该框架将精确飞行动力学与标准化强化学习接口相结合。这项工作旨在加速自主空战智能体的研究,并为多智能体强化学习未来的进展奠定基础。
本报告主要针对空中作战应用的基于仿真的强化学习测试平台,重点关注视距内(WVR)与超视距场景下的固定翼飞机。虽然主要侧重开源框架,但也讨论了部分专有工具作为比较基准。范围仅限于截至撰写时公开可用的框架与算法,排除涉密或受出口管制的技术。分析与提出的解决方案旨在供美国国防部或其他类似定位实体用于研究、开发及最终的作战集成。