We undertake a comprehensive and structured synthesis of the drivers of human behavior in cybersecurity, focusing specifically on people within organizations (i.e., especially employees in companies), and integrate key concepts such as awareness, security culture, and usability into a coherent theoretical framework. This model is then compared with several relevant behavioral models that fundamentally represent drivers of human behavior. Additionally, we discuss how this theoretical framework can help the domain of agentic AI security: We argue that as AI systems increasingly act as autonomous agents within organizations and based on natural language processing, they also exhibit vulnerabilities analogous to human behavioral risks. Consequently, we propose that this human-centric model offers a blueprint for developing additional security strategies against manipulation attacks targeting AI agents.


翻译:我们对网络安全中人类行为的驱动因素进行了全面且结构化的综合分析,特别聚焦于组织内人员(即企业员工),并将安全意识、安全文化及可用性等关键概念整合为一个连贯的理论框架。该模型随后与多个本质上表征人类行为驱动因素的相关行为模型进行了比较。此外,我们探讨了这一理论框架如何助力于代理型人工智能安全领域:我们认为,随着人工智能系统日益作为自主代理在组织内基于自然语言处理技术运作,它们同样会表现出类似于人类行为风险的脆弱性。因此,我们提出这一以人为中心的模型可为开发针对人工智能代理的操纵攻击的附加安全策略提供蓝图。

0
下载
关闭预览

相关内容

人工智能与机器学习对组织网络安全的影响研究 | 273页
专知会员服务
17+阅读 · 2025年10月27日
【2023新书】人工智能在网络安全中的应用,215页pdf
专知会员服务
104+阅读 · 2023年5月5日
专知会员服务
46+阅读 · 2021年6月25日
专知会员服务
42+阅读 · 2021年6月2日
专知会员服务
56+阅读 · 2020年12月28日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
深度学习模型可解释性的研究进展
专知
26+阅读 · 2020年8月1日
基于人体骨架的行为识别【附PPT与视频资料】
人工智能前沿讲习班
31+阅读 · 2019年1月15日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
深度学习应用于网络空间安全所面临的十大问题与机遇
计算机研究与发展
22+阅读 · 2018年6月7日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 3月9日
VIP会员
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员