The proliferation of Generative Artificial Intelligence has transformed benign cognitive offloading into a systemic risk of cognitive agency surrender. Driven by the commercial dogma of "zero-friction" design, highly fluent AI interfaces actively exploit human cognitive miserliness, prematurely satisfying the need for cognitive closure and inducing severe automation bias. To empirically quantify this epistemic erosion, we deployed a zero-shot semantic classification pipeline ($τ=0.7$) on 1,223 high-confidence AI-HCI papers from 2023 to early 2026. Our analysis reveals an escalating "agentic takeover": a brief 2025 surge in research defending human epistemic sovereignty (19.1%) was abruptly suppressed in early 2026 (13.1%) by an explosive shift toward optimizing autonomous machine agents (19.6%), while frictionless usability maintained a structural hegemony (67.3%). To dismantle this trap, we theorize "Scaffolded Cognitive Friction," repurposing Multi-Agent Systems (MAS) as explicit cognitive forcing functions (e.g., computational Devil's Advocates) to inject germane epistemic tension and disrupt heuristic execution. Furthermore, we outline a multimodal computational phenotyping agenda -- integrating gaze transition entropy, task-evoked pupillometry, fNIRS, and Hierarchical Drift Diffusion Modeling (HDDM) -- to mathematically decouple decision outcomes from cognitive effort. Ultimately, intentionally designed friction is not merely a psychological intervention, but a foundational technical prerequisite for enforcing global AI governance and preserving societal cognitive resilience.


翻译:生成式人工智能的泛滥已将良性的认知卸载转变为认知主权让渡的系统性风险。在"零摩擦"设计的商业教条驱动下,高度流畅的AI接口主动利用人类的认知懒惰,过早满足认知闭合需求,并诱发严重的自动化偏见。为实证量化这种认知侵蚀,我们部署了一个零样本语义分类流水线(τ=0.7),对2023年至2026年初的1,223篇高置信度AI-HCI论文进行了分析。分析揭示出不断加剧的"智能代理接管":2025年初短暂涌现的捍卫人类认知主权研究(19.1%)在2026年初被急剧抑制(13.1%),取而代之的是向优化自主机器代理方向的爆炸性转变(19.6%),而零摩擦可用性则维持着结构性霸权(67.3%)。为破解这一陷阱,我们提出了"支架式认知摩擦"理论,将多智能体系统(MAS)重新设计为显式认知强制函数(例如计算性魔鬼代言人),以注入相关认知张力并打断启发式执行。此外,我们勾勒了一个多模态计算表型分析框架——整合视线转移熵、任务诱发瞳孔测量、功能性近红外光谱(fNIRS)和层级漂移扩散模型(HDDM)——以数学方式解耦决策结果与认知努力。最终,有意设计的摩擦不仅是一种心理干预,更是实施全球AI治理和维护社会认知韧性的基础性技术前提。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
追寻真正的AI自主性:从遗留思维到战场优势
专知会员服务
21+阅读 · 2025年12月17日
《人工智能对抗认知战的基本风险​​》最新报告30页
专知会员服务
27+阅读 · 2025年7月8日
《人工智能辅助决策中信任的时间演化​​》225页
专知会员服务
24+阅读 · 2025年5月12日
生成式AI:认知对抗的新武器
专知会员服务
83+阅读 · 2023年12月29日
认知智能技术与应用研究报告2023(附下载)
专知会员服务
90+阅读 · 2023年7月14日
混合增强视觉认知架构及其关键技术进展
专知会员服务
46+阅读 · 2021年11月20日
搜索query意图识别的演进
DataFunTalk
13+阅读 · 2020年11月15日
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 4月20日
Arxiv
0+阅读 · 3月30日
VIP会员
最新内容
世界动作模型: 具身AI的下一个前沿
专知会员服务
0+阅读 · 今天12:28
全球十大防空反导系统:列表、射程与用途
专知会员服务
10+阅读 · 今天3:53
相关VIP内容
追寻真正的AI自主性:从遗留思维到战场优势
专知会员服务
21+阅读 · 2025年12月17日
《人工智能对抗认知战的基本风险​​》最新报告30页
专知会员服务
27+阅读 · 2025年7月8日
《人工智能辅助决策中信任的时间演化​​》225页
专知会员服务
24+阅读 · 2025年5月12日
生成式AI:认知对抗的新武器
专知会员服务
83+阅读 · 2023年12月29日
认知智能技术与应用研究报告2023(附下载)
专知会员服务
90+阅读 · 2023年7月14日
混合增强视觉认知架构及其关键技术进展
专知会员服务
46+阅读 · 2021年11月20日
相关基金
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员