任何基于云的组织最有价值的资产是数据,而这些数据正日益面临复杂网络攻击的威胁。直到最近,许多在云中运营的政府实体和国家关键服务仍常将DevOps环境中安全措施的实施视为可选项。这包括管理敏感信息的系统,例如选举流程或军事行动系统,它们历来是网络犯罪分子的高价值目标。对实施安全措施的抵制,往往源于对可能丧失软件开发敏捷性的担忧,但这会增加漏洞累积的风险。如今,仅靠修补软件已远远不够;采用由人工智能支持的主动网络防御策略,对于预测和缓解威胁至关重要。因此,本研究提出将安全混沌工程方法与一种新型基于大语言模型的流程相结合,以自动化创建表征对手行为的攻击防御树,并基于这些图形化模型便捷地构建SCE实验,从而使团队能够领先攻击者一步,并实施之前未考虑到的防御措施。关于所进行实验的进一步详细信息以及复现步骤,可在以下代码仓库中找到:https://github.com/mariomc14/devsecops-adversary-llm.git。

因此,本文的主要贡献总结如下:

• 一种基于大语言模型、用于生成表征对手行为的攻击防御树的新型流程。

• 利用不同的通用大语言模型进行了攻击防御树生成的对比分析。通过为模型提供一组在DevSecOps和网络防御语境下的提示词,评估它们生成具有清晰层次结构、并与所提出的攻击目标相一致的真实攻击结构的能力。

• 定义了用于评估不同模型生成的攻击防御树质量的关键指标。这些指标确保生成的树基于真实世界的攻击和应对措施,保持清晰的层次结构,并与明确界定的攻击目标保持一致。

• 通过对部分生成的攻击防御树进行评估,以及对一个SCE实验的实施,验证了所提方案的可行性。该实验允许从现实对手的角度测试所生成攻击路径的可行性。

本文结构如下:第二部分探讨了用于网络安全和网络防御目的的大语言模型。接着,第三部分描述了我们所提出的、使用通用大语言模型生成和评估攻击防御树的方法。然后,在第四部分中,利用获得的最佳攻击防御树来构建和执行我们的实验。最后,第五部分给出结论,并分析未来可能的研究方向以改进我们的提案。

成为VIP会员查看完整内容
3

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《用于建模系统攻击路径的强化学习环境》
专知会员服务
11+阅读 · 3月5日
《大语言模型驱动的智能红队测试》
专知会员服务
16+阅读 · 2025年11月26日
《攻击场景描述形式化模型研究》
专知会员服务
29+阅读 · 2025年8月15日
面向边缘智能的大模型研究进展
专知会员服务
40+阅读 · 2025年3月10日
《数据优势:未来武器》
专知会员服务
93+阅读 · 2023年8月14日
时间序列预测:一课掌握亚马逊开源算法DeepAR
机器之心
13+阅读 · 2020年6月3日
支持个性化学习的行为大数据可视化研究
边缘计算:万物互联时代新型计算模型
计算机研究与发展
15+阅读 · 2017年5月19日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
VIP会员
相关VIP内容
《用于建模系统攻击路径的强化学习环境》
专知会员服务
11+阅读 · 3月5日
《大语言模型驱动的智能红队测试》
专知会员服务
16+阅读 · 2025年11月26日
《攻击场景描述形式化模型研究》
专知会员服务
29+阅读 · 2025年8月15日
面向边缘智能的大模型研究进展
专知会员服务
40+阅读 · 2025年3月10日
《数据优势:未来武器》
专知会员服务
93+阅读 · 2023年8月14日
相关基金
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员