军事决策与任务规划需要处理和理解来自多个领域、不同来源的复杂信息流。随着基于人工智能的决策辅助工具日益广泛地用于增强和加速指挥控制工作流程，人机协作催生了对可解释人工智能的需求，以及更好地理解人工智能做出特定决策缘由的方法。为应对人工智能在未来战争推演和指挥控制中的应用，介绍了“基于树的交互式XAI性能评估中间件”系统。MIXTAPE提供了一个模块化、可扩展的框架，能够在一个高性能的交互式可视化工具中使用不同的战争推演模拟、人工智能智能体及多种解释类型。系统设计通过满足与使用基于人工智能系统相关的可解释性和可追溯性功能需求，契合了对安全、可信、负责任人工智能的要求。MIXTAPE通过多种视图和交互模式，使用户能够理解人工智能智能体的行为，便于逐回合检查决策并深入探究人工智能智能体的复杂推理过程。MIXTAPE系统还整合了一个“人工智能事后评估”流程，指导用户如何利用所提供的解释，以在不同抽象层级上更好地理解人工智能智能体的推理过程。在自定义的《星际争霸II》基础环境中展示了最新成果，说明了系统如何能够解释人工智能智能体在各种战争推演场景下的复杂推理、决策制定和团队协作。采用基于状态的聚类方法，可以识别不同的潜在行动方案，并允许用户通过对策略规范进行直观的图形化修改来干预这些行动方案。聚焦于战争推演和指挥控制领域，MIXTAPE将推动跨工业界和学术界关于人工智能标准与互操作性的讨论，同时加速复杂人工智能推理及人机组队以实现相互学习的研究与开发。该工作也为支持在复杂、高维度的战争推演和指挥控制场景中进行迭代改进和强健人机协作的下一代可解释人工智能框架铺平了道路。

图1： MIXTAPE系统通过决策树解释等工具，支持可定制的解释功能，以帮助用户更好地理解和评估人工智能智能体的性能。交互式且可扩展的可视化界面，能在“推演回合”、“决策”和“解释”三个层面提供可操作的洞见。MIXTAPE采用迭代式的、以用户为中心的开发过程构建，系统功能会沿着性能、易用性和信任适当性这几个维度进行评估。