Repeated AI assistance can improve immediate task performance while reducing the skill available for future independent work. We develop a mathematical framework for this long-run tradeoff. The model tracks two state variables: a latent human skill level governing expected independent performance, and a delegation level representing the learner's evolving tendency to rely on AI. Skill changes through error-driven learning under practice and decay under delegation; delegation responds to observed performance, increasing when AI-assisted work appears to outperform independent work. We analyze the resulting dynamics and contrast them with fixed delegation. With fixed delegation, skill follows a one-dimensional learning-decay process with a single stable equilibrium. With adaptive delegation, the coupled system has two attracting equilibria separated by the stable manifold of an interior saddle. The existence and geometry of this separatrix require a global phase-plane analysis of the coupled dynamics. The system is path-dependent: small differences in initial skill or reliance can lead to different long-run outcomes. We use this characterization to show that AI assistance can improve short-run performance while producing worse long-run performance than a no-AI baseline. Increasing AI capability can enlarge the basin of attraction of the low-skill equilibrium, making delegation appear beneficial for longer while increasing the risk of eventual skill loss. The qualitative picture is observed to persist across alternative specifications. Together, these results show that the risk is not AI assistance itself, but the coupling between performance-driven reliance and use-dependent skill change.


翻译:重复的AI辅助可以提升即时任务表现,但会削弱未来独立工作所需的能力。我们为此长期权衡建立了一个数学框架。该模型追踪两个状态变量:一个决定预期独立表现的潜在人类技能水平,以及一个代表学习者对AI依赖程度演变趋势的委派水平。技能通过实践中的错误驱动学习得以提升,在委派状态下发生衰退;委派行为则根据观察到的表现进行调整——当AI辅助工作表现优于独立工作时,委派程度增加。我们分析了由此产生的动态过程,并将其与固定委派模式进行对比。在固定委派模式下,技能遵循一维学习-衰退过程,存在单一稳定均衡点。而在自适应委派模式下,耦合系统存在两个吸引性均衡点,它们被内部鞍点的稳定流形分隔。该分隔线的存在性与几何特性需要对耦合动态进行全局相平面分析。该系统具有路径依赖性:初始技能或依赖程度的微小差异可能导致截然不同的长期结果。基于这一特征,我们证明:与无AI基线相比,AI辅助虽然能提升短期表现,却可能导致更差的长期绩效。增强AI能力会扩大低技能均衡点的吸引域,使委派行为看似更长时间保持有利,实则增加了最终技能丧失的风险。该定性结论在多种替代设定下依然成立。这些结果共同表明:风险并非源于AI辅助本身,而在于绩效驱动的依赖行为与使用相关的技能改变之间的耦合关系。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
在通信中断环境下人工智能维持相关态势感知
专知会员服务
16+阅读 · 7月2日
AI 自动研究:路线图与用户指南
专知会员服务
21+阅读 · 5月19日
《人工智能辅助决策中信任的时间演化​​》225页
专知会员服务
25+阅读 · 2025年5月12日
《影响对人工智能决策支持系统依赖度的关键因素》304页
《人工智能辅助决策面临的三大挑战》最新33页
专知会员服务
53+阅读 · 2025年1月8日
《AI/ML 供应链软件依赖性风险分析》2023最新95页论文
专知会员服务
41+阅读 · 2023年12月19日
《人工智能辅助决策面临的三大挑战》
专知会员服务
87+阅读 · 2023年12月15日
专知会员服务
25+阅读 · 2021年7月8日
你的算法可靠吗? 神经网络不确定性度量
专知
40+阅读 · 2019年4月27日
谷歌推出新型数据增强算法:AutoAugment
论智
20+阅读 · 2018年6月6日
自适应注意力机制在Image Caption中的应用
PaperWeekly
10+阅读 · 2018年5月10日
干货!自然语言处理中的自注意力机制!
全球人工智能
11+阅读 · 2018年3月27日
【强化学习】强化学习+深度学习=人工智能
产业智能官
55+阅读 · 2017年8月11日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
最新内容
俄乌无人机战争的六大启示
专知会员服务
4+阅读 · 今天7:07
《无人机空中监控:通信实验洞察》
专知会员服务
3+阅读 · 今天7:05
从采集到决策:美军视角下的战术情报范式重构
《履带式无人地面战车技术发展现状》
专知会员服务
6+阅读 · 8月2日
《无人机脆弱性利用:网络空间力量的新域》
专知会员服务
6+阅读 · 8月1日
美空军如何将人工智能从战场部署至后方机关
专知会员服务
13+阅读 · 7月31日
相关VIP内容
在通信中断环境下人工智能维持相关态势感知
专知会员服务
16+阅读 · 7月2日
AI 自动研究:路线图与用户指南
专知会员服务
21+阅读 · 5月19日
《人工智能辅助决策中信任的时间演化​​》225页
专知会员服务
25+阅读 · 2025年5月12日
《影响对人工智能决策支持系统依赖度的关键因素》304页
《人工智能辅助决策面临的三大挑战》最新33页
专知会员服务
53+阅读 · 2025年1月8日
《AI/ML 供应链软件依赖性风险分析》2023最新95页论文
专知会员服务
41+阅读 · 2023年12月19日
《人工智能辅助决策面临的三大挑战》
专知会员服务
87+阅读 · 2023年12月15日
专知会员服务
25+阅读 · 2021年7月8日
相关基金
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员