人工智能(AI)正迅速重塑网络安全格局。随着高性能AI技术的日益普及,恶意行为者正利用其以更大规模和更快速度实施网络威胁。不重新评估并改进其防御措施的组织,将依然易受这些AI赋能网络威胁的攻击。传统上,网络安全依赖于专业团队和响应式工作流来管理风险。这些方法仍然重要,但现代网络安全格局的规模和复杂性日益使其不堪重负。对手动流程的严重依赖,可能导致难以对风险进行优先级排序、调查潜在威胁并保持一致的防御覆盖。
AI为网络防御者带来了重大机遇。当安全、可靠、负责任地使用时,AI可以:
本指南概述了组织如何在使用AI的同时,利用其加强组织网络安全,并管理使用AI的风险。它阐述了网络安全格局的演变,并描述了组织如何将AI的应用与网络安全职能(治理、识别、保护、检测、响应和恢复)对齐。该指南还提出了安全采用AI的原则,以及网络防御者为支持安全使用而应向AI供应商提出的关键问题。
人工监督、治理和"安全设计"实践依然至关重要。 AI可以显著增强网络安全,但它不能替代坚实的网络安全基础。设计不当或管理不善的AI系统可能引入新的攻击路径。这可能通过过多的系统访问权限、依赖不可信的输入或缺乏充分保障措施的自动化操作而发生。