本白皮书讨论了鲁棒和安全的AI系统:即使在面临不确定性和危险或威胁时，AI系统也能在预期的性能水平上可靠地运行。

鲁棒和安全的AI系统是指能够在预期性能水平上可靠运行的AI系统，即使在面临不确定性和危险或威胁时也是如此。这些系统具有内置的结构、机制或缓解措施，以防止、避免来自特定威胁模式的危险，或提供抵御能力。我们确定了三个具体的重点领域，以推进用于国防和国家安全的鲁棒和安全的人工智能:

提高AI组件和系统的鲁棒性 * 为现代人工智能系统的安全挑战而设计 * 开发用于测试、评估和分析AI系统的流程和工具

对于每个领域，我们都有信心地确定在开发和部署AI系统方面正在进行的工作以及挑战和机遇。

https://resources.sei.cmu.edu/library/asset-view.cfm?assetid=735344