A core challenge in program synthesis is online library learning: the incremental acquisition of reusable abstractions under uncertainty about future task demands. Existing algorithms treat library learning as retrospective compression over a static task distribution, where the learned library is determined by the corpus of past tasks. However, real-world learning domains are often non-stationary, with tasks arising from a generative process that evolves over time. We propose and test the hypothesis that in non-stationary domains human library learning selects abstractions prospectively: targeting compression of future tasks. We study this question using the Pattern Builder Task, a visual program synthesis paradigm in which participants construct increasingly complex geometric patterns from a small set of primitives, transformations, and custom helpers that carry forward across trials. Using this task, we conduct two experiments with complementary latent curricula, designed to dissociate between behaviors consistent with prospective compression, and alternative library learning accounts. Using six computational models spanning online library learning strategies, we show that human abstraction behavior reflects sensitivity to latent, non-stationary structure in the task-generating process. This behavior is consistent with prospective compression, and cannot be captured by existing retrospective compression-based algorithms, or inductive biases modeled by LLM-based program synthesis.


翻译:程序合成中的一个核心挑战是在线库学习:在对未来任务需求存在不确定性的情况下,逐步获取可复用的抽象概念。现有算法将库学习视为对静态任务分布的事后压缩,其中学习到的库由过去任务的语料库决定。然而,现实世界的学习领域往往是非平稳的,任务产生于随时间演化的生成过程。我们提出并检验了以下假设:在非平稳领域中,人类库学习会前瞻性地选择抽象概念——旨在压缩未来任务。我们通过模式构建任务(Pattern Builder Task)研究该问题,这是一种视觉程序合成范式,参与者需使用一组有限的基元、变换以及跨试验延续的自定义辅助函数,逐步构建复杂度递增的几何图案。利用该任务,我们设计了两个具有互补潜在课程设置的实验,旨在区分与前瞻性压缩一致的行为及其他替代性库学习解释。通过六个涵盖在线库学习策略的计算模型,我们证明人类抽象行为反映了对任务生成过程中潜在的、非平稳结构的敏感性。这种行为与前瞻性压缩一致,无法被现有基于事后压缩的算法或基于大语言模型的程序合成所建模的归纳偏置所捕捉。

0
下载
关闭预览

相关内容

【CMU博士论文】强化学习中的涌现式抽象
专知会员服务
18+阅读 · 3月8日
【斯坦福博士论文】具有学习约束的深度表示,239页pdf
专知会员服务
62+阅读 · 2022年9月13日
机器学习的可解释性
专知会员服务
69+阅读 · 2020年12月18日
可解释强化学习,Explainable Reinforcement Learning: A Survey
专知会员服务
133+阅读 · 2020年5月14日
模型压缩 | 知识蒸馏经典解读
AINLP
11+阅读 · 2020年5月31日
逆强化学习-学习人先验的动机
CreateAMind
16+阅读 · 2019年1月18日
NLP-Progress记录NLP最新数据集、论文和代码: 助你紧跟NLP前沿
中国人工智能学会
12+阅读 · 2018年11月15日
深度学习之视频图像压缩
论智
13+阅读 · 2018年6月15日
一文读懂图像压缩算法
七月在线实验室
17+阅读 · 2018年5月2日
如何设计基于深度学习的图像压缩算法
论智
41+阅读 · 2018年4月26日
国家自然科学基金
6+阅读 · 2017年6月30日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月8日
Arxiv
0+阅读 · 5月18日
Arxiv
0+阅读 · 5月14日
VIP会员
最新内容
面向2027年及未来的海军情报改革
专知会员服务
3+阅读 · 8月5日
《无人机蜂群:释放人类-蜂群编队的潜能》
专知会员服务
6+阅读 · 8月5日
《战略战术化:一项综合性述评》
专知会员服务
4+阅读 · 8月5日
相关资讯
模型压缩 | 知识蒸馏经典解读
AINLP
11+阅读 · 2020年5月31日
逆强化学习-学习人先验的动机
CreateAMind
16+阅读 · 2019年1月18日
NLP-Progress记录NLP最新数据集、论文和代码: 助你紧跟NLP前沿
中国人工智能学会
12+阅读 · 2018年11月15日
深度学习之视频图像压缩
论智
13+阅读 · 2018年6月15日
一文读懂图像压缩算法
七月在线实验室
17+阅读 · 2018年5月2日
如何设计基于深度学习的图像压缩算法
论智
41+阅读 · 2018年4月26日
相关基金
国家自然科学基金
6+阅读 · 2017年6月30日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员