Warm-start transfer accelerates delayed generalization (grokking) on algorithmic tasks, yet which architectural components drive this acceleration and whether transferred circuits remain stable under continued optimization remain unclear. Across a scale-matched 108-run factorial battery ($N=12$ paired seeds), transferring internal attention/MLP matrices ($B$) alongside representations ($E+U$) lifts early accuracy by $5.46$ percentage points and cuts validation confirmation latency by $617$ steps (Holm $p=0.0039$). Whereas readout plus internal blocks ($U+B$) matches full transfer within $\pm 500$ steps in 1-layer models (TOST $p=2.91\times 10^{-13}$), a 2-layer replication confirms internal-block acceleration ($+704.67$ units, $p=4.88\times 10^{-4}$; $8.1\times$ faster trigger) while exposing an inter-block interface where omitting embeddings incurs a $-4{,}475.6$-unit deficit (TOST $p=1.00$). Under continued optimization, unshielded runs suffer severe post-grokking relapse. Freezing carriers ($E+U$) suppresses 1-layer drawdown ($22.06\% \to 0.60\%$ on $2a+b$; $28.56\% \to 5.09\%$ on $3a+b$; $11.09\% \to 0.15\%$ on $a^2+b^2$), but leaves internal blocks vulnerable at high step sizes. Dissecting 12 post-trigger schedules shows that Curvature-Preconditioned Bounded Step-Budget Consolidation ($S_H \approx 0.02, λ=1.0$, preserved $v_t$)---via 201-step micro-stepping ($86.6\%$ lower active compute) or exponential decay ($τ=200$)---compresses drawdown to $0.08\%$--$0.17\%$ on 1-layer $2a+b/3a+b$, $0.13\%$--$0.20\%$ on 2-layer $2a+b$, $0.02\%$ ($66.81\% \to 0.02\%$, Holm $p=0.0020$) on unseen pure-FP32 2-layer subtraction ($a-b$), and $0.09\%$--$0.18\%$ (Holm $p=0.031$) on non-abelian $S_5$ where carrier freezing fails ($10.73\%$ drawdown, $p=0.273$).


翻译:暂无翻译

0
下载
关闭预览

相关内容

让 iOS 8 和 OS X Yosemite 无缝切换的一个新特性。 > Apple products have always been designed to work together beautifully. But now they may really surprise you. With iOS 8 and OS X Yosemite, you’ll be able to do more wonderful things than ever before.

Source: Apple - iOS 8
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
35+阅读 · 2019年10月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
61+阅读 · 2019年10月17日
从头开始了解Transformer
AI科技评论
25+阅读 · 2019年8月28日
强化学习三篇论文 避免遗忘等
CreateAMind
20+阅读 · 2019年5月24日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
多图带你读懂 Transformers 的工作原理
AI研习社
10+阅读 · 2019年3月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
国家自然科学基金
122+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
15+阅读 · 2022年6月14日
Arxiv
20+阅读 · 2021年9月21日
VIP会员
最新内容
《美空军2026条令文件:对海压制作战》
专知会员服务
25+阅读 · 11月9日
人工智能与战争的未来
专知会员服务
10+阅读 · 11月8日
《Agent Mosaic:识别智能体LLM系统中的机密泄露》
专知会员服务
12+阅读 · 11月8日
人工智能在军事教育中的应用:若干视角与经验
专知会员服务
12+阅读 · 11月6日
“星链”减速与不断适应的乌克兰
专知会员服务
10+阅读 · 11月6日
美国中期选举之后:帕兰提尔面临不确定性?
专知会员服务
7+阅读 · 11月6日
相关VIP内容
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
35+阅读 · 2019年10月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
61+阅读 · 2019年10月17日
相关资讯
从头开始了解Transformer
AI科技评论
25+阅读 · 2019年8月28日
强化学习三篇论文 避免遗忘等
CreateAMind
20+阅读 · 2019年5月24日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
多图带你读懂 Transformers 的工作原理
AI研习社
10+阅读 · 2019年3月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
相关基金
国家自然科学基金
122+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员