This paper provides a comprehensive literature review on the belief in false information, including misinformation, disinformation, and fake information. It addresses the increasing societal concern regarding false information, which is fueled by technological progress, especially advancements in artificial intelligence. This review systematically identifies and categorizes factors that influence the belief in false information. The review identifies 24 influence factors grouped into six main categories: demographic factors, personality traits, psychological factors, policy and values, media consumption, and preventive factors. Key findings highlight that lower education levels, high extraversion, low agreeableness, high neuroticism, and low cognitive reflection significantly increase belief in false information. The effectiveness of preventive strategies like labeling false information and promoting reflection about correctness is also discussed. This literature review conceptualizes belief in false information as a human-centered security risk in sociotechnical systems, as it can be exploited to manipulate decisions, undermine trust, and increase susceptibility to social engineering. It aims to inform preventive strategies that strengthen socio-technical security and societal resilience.


翻译:本文对虚假信息(包括错误信息、虚假信息和伪造信息)的信念进行了全面的文献综述。文章探讨了技术进步,特别是人工智能的发展所加剧的日益增长的社会对虚假信息的担忧。本综述系统地识别并分类了影响虚假信息信念的因素,共识别出24个影响因素,并将其归纳为六个主要类别:人口统计学因素、人格特质、心理因素、政策与价值观、媒体消费以及预防性因素。关键发现强调,较低的教育水平、高外向性、低宜人性、高神经质以及低认知反思能力会显著增加对虚假信息的信念。文章还讨论了诸如标记虚假信息和促进对正确性的反思等预防策略的有效性。本文献综述将虚假信息信念概念化为社会技术系统中一种以人为中心的安全风险,因为它可被利用来操纵决策、破坏信任并增加对社会工程攻击的易感性。其目的在于为加强社会技术安全和社会韧性的预防策略提供参考。

0
下载
关闭预览

相关内容

社会技术是人类认识自然、改造自然的活动和产物,有其相对独立性;科学技术作为整个社会大系统的一部,与社会大系统中别的子系统密切相关。 社会技术就是构成社会的“个体”对“他人”跨界反应的响应方式、方法与途径的总称。 社会技术的研究对象是“反应”与“响应”。 在社会群体中,反应和响应的常见表现手段有竞争、合作、顺从、关心、漠视,支配等,有效应用这些手段协调反应与响应就是社会技术。
虚假信息检测综述
专知会员服务
8+阅读 · 2025年7月9日
《综述:生成式人工智能对虚假新闻的影响》
专知会员服务
34+阅读 · 2024年4月13日
《多模态假新闻检测框架》2023最新80页论文
专知会员服务
44+阅读 · 2023年10月30日
专知会员服务
28+阅读 · 2021年8月15日
专知会员服务
27+阅读 · 2021年8月7日
专知会员服务
60+阅读 · 2021年6月28日
专知会员服务
52+阅读 · 2021年1月19日
ISWC2020最佳论文《可解释假信息检测的链接可信度评价》
深度伪造与检测技术综述(中文版),25页pdf
专知
13+阅读 · 2020年12月12日
热点! 虚假新闻检测综述
专知
111+阅读 · 2019年2月26日
一文看懂虚假新闻检测(附数据集 & 论文推荐)
PaperWeekly
36+阅读 · 2019年2月19日
揭秘AI识别虚假新闻背后的原理
DeepTech深科技
10+阅读 · 2018年8月5日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
VIP会员
相关VIP内容
虚假信息检测综述
专知会员服务
8+阅读 · 2025年7月9日
《综述:生成式人工智能对虚假新闻的影响》
专知会员服务
34+阅读 · 2024年4月13日
《多模态假新闻检测框架》2023最新80页论文
专知会员服务
44+阅读 · 2023年10月30日
专知会员服务
28+阅读 · 2021年8月15日
专知会员服务
27+阅读 · 2021年8月7日
专知会员服务
60+阅读 · 2021年6月28日
专知会员服务
52+阅读 · 2021年1月19日
ISWC2020最佳论文《可解释假信息检测的链接可信度评价》
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员