Grokking, or delayed generalization after memorization, incurs substantial training steps across algebraic tasks. Cross-operator transfer from a grokked donor accelerates target acquisition, yet post-grokking AdamW continuation triggers test-accuracy relapse as unannealed updates drift across residual interfaces and decaying second moments amplify late gradients. Across depths one to three on modular arithmetic ($\mathbb{Z}_{113}$), non-Abelian $S_5$ conjugation, and real-sensory MNIST modular arithmetic, we separate representational transfer from preconditioner-governed consolidation across thirteen experimental batteries. First, co-transferring internal blocks accelerates one-layer and two-layer modular takeoff beyond boundary interfaces, while graded prefix pinning bounds depth-three drift under unannealed continuation. Second, an iso-parameter $S_5$ scaling grid separates attention head dimension from MLP width: widening two-head attention to dimension $64$ reaches $98.54\%$ cold accuracy at $427\mathrm{k}$ parameters and $85.95\%$ boundary-only transfer, while final-slot representations refine conjugation directly across blocks without an intermediate binary-product bottleneck. Third, Plateau-Gated Leaky Consolidation pairs validation-envelope step damping with leaky second-moment decay, reaching $84.85\%$ zero-leakage validation-gated risk-constrained accuracy across five pre-saturation two-layer $S_5$ suites while cutting step budget relative to hard anchoring. Fourth, transferring a grokked visual trunk and blocks to image-disjoint MNIST targets reaches $92.27\%$ and $90.76\%$ accuracy, prunes odd centroid harmonics, and reaches $90.42\%$ risk-constrained accuracy across $60/60$ branches without hyperparameter retuning.


翻译:暂无翻译

0
下载
关闭预览

相关内容

机器学习系统设计系统评估标准
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
35+阅读 · 2019年10月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
61+阅读 · 2019年10月17日
强化学习三篇论文 避免遗忘等
CreateAMind
20+阅读 · 2019年5月24日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
近期语音类前沿论文
深度学习每日摘要
14+阅读 · 2019年3月17日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
国家自然科学基金
122+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
《美空军2026条令文件:对海压制作战》
专知会员服务
25+阅读 · 11月9日
人工智能与战争的未来
专知会员服务
10+阅读 · 11月8日
《Agent Mosaic:识别智能体LLM系统中的机密泄露》
专知会员服务
12+阅读 · 11月8日
人工智能在军事教育中的应用:若干视角与经验
专知会员服务
12+阅读 · 11月6日
“星链”减速与不断适应的乌克兰
专知会员服务
10+阅读 · 11月6日
美国中期选举之后:帕兰提尔面临不确定性?
专知会员服务
7+阅读 · 11月6日
相关VIP内容
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
35+阅读 · 2019年10月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
61+阅读 · 2019年10月17日
相关基金
国家自然科学基金
122+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员