We argue that modern generative models create structural risks for knowledge and cultural production at current, sub-AGI capability levels. We define Human Temporal Learning (HTL) as path-dependent knowledge accumulation through sustained engagement with problems over time. Generative outputs increasingly resemble HTL-intensive work in surface features, so verifying whether a given output reflects genuine human learning grows costly relative to its expected benefit. Once verification loses economic justification, evaluators reward outputs regardless of production mode, and producers who invested years of learning compete on price against outputs that cost almost nothing to generate. We call this pathway value collapse and formalize it through a costly-inspection framework. Cross-domain evidence from academic publishing, legal practice, content platforms, and software security maps onto four stages of verification erosion. Alignment success is orthogonal. Better-aligned models narrow observable gaps between human and AI outputs, making source verification harder and intensifying competitive pressure against HTL-intensive work even when individual AI outputs improve.


翻译:我们认为,在亚通用人工智能(sub-AGI)能力水平上,现代生成模型为知识与文化生产带来了结构性风险。我们将人类时序学习(Human Temporal Learning, HTL)定义为:通过长期持续解决问题而形成的路径依赖式知识积累。生成输出在表面特征上日益接近需要人类时序学习的作品,导致验证某输出是否反映真实人类学习的成本相对于其预期收益不断增长。一旦验证失去经济合理性,评估者将无论生产模式均给予奖励;而投入数年学习的生产者则被迫与几乎零成本的生成输出展开价格竞争。我们将这一路径称为价值崩溃(value collapse),并通过成本核查框架(costly-inspection framework)将其形式化。来自学术出版、法律实务、内容平台及软件安全等领域的跨域证据映射出验证侵蚀的四个阶段。对齐(alignment)的成功与否在其中作用正交——更好对齐的模型会缩小人类与人工智能输出之间的可观测差距,使来源验证愈发困难,从而在个体人工智能输出质量提升的同时,加剧对时序密集型工作的竞争压力。

0
下载
关闭预览

相关内容

【MIT博士论文】语言模型的推理时学习算法
专知会员服务
30+阅读 · 2025年12月24日
基于大语言模型的时序知识图谱推理模型蒸馏方法
专知会员服务
38+阅读 · 2025年1月10日
生成技术在时空数据挖掘中的应用
专知会员服务
39+阅读 · 2024年6月5日
《生成式人工智能模型:机遇与风险》
专知会员服务
81+阅读 · 2024年4月22日
时序知识图谱表示学习
专知会员服务
154+阅读 · 2022年9月17日
绝对干货!NLP预训练模型:从transformer到albert
新智元
14+阅读 · 2019年11月10日
逆强化学习-学习人先验的动机
CreateAMind
16+阅读 · 2019年1月18日
深度学习时代的图模型,清华发文综述图网络
GAN生成式对抗网络
13+阅读 · 2018年12月23日
【强化学习】强化学习+深度学习=人工智能
产业智能官
55+阅读 · 2017年8月11日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
14+阅读 · 2008年12月31日
VIP会员
最新内容
驱动军事决策变革的顶尖人工智能指挥系统
专知会员服务
7+阅读 · 8月11日
非对称防御中的自组织临界性:俄乌战争
专知会员服务
10+阅读 · 8月10日
《战争中的大语言模型监管》
专知会员服务
13+阅读 · 8月10日
《边缘计算关键技术分析及美军作战实践应用》
边缘计算的军事应用
专知会员服务
12+阅读 · 8月9日
一种考虑资源机动性的武器目标分配混合算法
专知会员服务
13+阅读 · 8月8日
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
14+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员