Human decision-making under uncertainty faces growing challenges from information-based threats that pose risks to human cognitive processes and behavior. Although their potential harm is widely acknowledged, there remains no well-defined construct for characterizing the degree to which information-based threats influence changes in human judgments and decision-making, impeding theoretical advancement, measurement, and effective countermeasure development. Here, we introduce a human cognitive security construct focused on linking information-based threats to observable outcomes to bridge field-level definitions with operational measures by drawing from core mechanisms related to information processing and decision-making. To connect the information environment to behavior, we develop an integrative modeling framework that unifies Bayesian inference with affect-modulated decision valuation, capturing how cognitive resource allocation and affective valuation shape three core behavioral outcomes: veracity discernment, task-oriented actions, and information sharing. Through computational simulations, we demonstrate that this framework explains canonical phenomena, including cognitive heuristics, the illusory truth effect (R2=0.86, validated against empirical data), and incongruent veracity discernment and sharing behavior. We propose empirically grounded behavioral outcome measures of cognitive security to guide future empirical examinations. Finally, we outline how environment-specific elements, characterized by data availability and ecological constraints, affect individuals' cognitive security and identify future research directions.


翻译:在不确定性条件下的人类决策正日益面临信息威胁带来的挑战,这些威胁对人类认知过程和行为构成风险。尽管其潜在危害已得到广泛认识,但目前仍缺乏明确定义的概念框架来刻画信息威胁影响人类判断与决策改变的程度,这阻碍了理论发展、测量方法构建以及有效对策的制定。本文提出一种以信息威胁与可观测结果关联为核心的人类认知安全概念,通过借鉴信息处理与决策相关的核心机制,将领域层面的定义与可操作化测量相衔接。为建立信息环境与行为之间的联系,我们开发了一个整合建模框架,该框架将贝叶斯推理与情感调节的决策价值评估相统一,刻画了认知资源分配和情感价值评估如何塑造三个核心行为结果:真实性辨别、任务导向行动和信息共享。通过计算模拟,我们证明该框架能够解释典型现象,包括认知启发式、虚幻真相效应(R2=0.86,经实证数据验证)以及不一致的真实性辨别与共享行为。我们提出了基于实证的行为结果测量指标来指导未来实证研究。最后,我们阐述了以数据可得性和生态约束为特征的环境特定要素如何影响个体的认知安全,并指出了未来研究方向。

0
下载
关闭预览

相关内容

《军事领域人工智能网络安全的数字主权控制框架》
专知会员服务
17+阅读 · 2025年9月20日
认知优势:人工智能在国家安全决策中的核心作用
专知会员服务
13+阅读 · 2025年8月16日
《人工智能对抗认知战的基本风险​​》最新报告30页
专知会员服务
24+阅读 · 2025年7月8日
《高级威胁行为体建模:特征描述、分类和检测》268页
专知会员服务
44+阅读 · 2024年5月30日
混合增强视觉认知架构及其关键技术进展
专知会员服务
46+阅读 · 2021年11月20日
专知会员服务
63+阅读 · 2021年7月5日
数据驱动的态势认知技术及发展思考
专知
18+阅读 · 2022年7月12日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
基于人体骨架的行为识别【附PPT与视频资料】
人工智能前沿讲习班
31+阅读 · 2019年1月15日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
51+阅读 · 2014年12月31日
国家自然科学基金
25+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
VIP会员
相关基金
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
51+阅读 · 2014年12月31日
国家自然科学基金
25+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员