会员服务
持续学习(continuallearning,CL) 是 模 拟 大 脑 学 习 的 过 程,按 照 一 定 的 顺 序 对 连 续 非 独 立 同 分 布 的 (independentlyandidenticallydistributed,IID)流数据进行学习,进而根据任务的执行结果对模型进行 增量式更新．持续学习的意义在于高效地转化和利用已经学过的知识来完成新任务的学习,并且能够极 大程度地降低遗忘带来的问题．连续学习研究对智能计算系统自适应地适应环境改变具有重要的意义
Efficient Continual Learning in Language Models via Thalamically Routed Cortical Columns
Arxiv
0+阅读 · 4月17日
Replay-Free Continual Low-Rank Adaptation with Dynamic Memory
Arxiv
0+阅读 · 3月24日
MemoryBench: A Benchmark for Memory and Continual Learning in LLM Systems
Arxiv
0+阅读 · 5月1日
When Does Structure Matter in Continual Learning? Dimensionality Controls When Modularity Shapes Representational Geometry
Arxiv
0+阅读 · 4月30日
JumpLoRA: Sparse Adapters for Continual Learning in Large Language Models
Arxiv
0+阅读 · 4月28日
JumpLoRA: Sparse Adapters for Continual Learning in Large Language Models
Arxiv
0+阅读 · 4月21日
JumpLoRA: Sparse Adapters for Continual Learning in Large Language Models
Arxiv
0+阅读 · 4月17日
LACE: Loss-Adaptive Capacity Expansion for Continual Learning
Arxiv
0+阅读 · 3月30日
Stochastic approximation in non-markovian environments revisited
Arxiv
0+阅读 · 3月22日
Learning to Forget: Continual Learning with Adaptive Weight Decay
Arxiv
0+阅读 · 4月29日
Fine-Tuning Regimes Define Distinct Continual Learning Problems
Arxiv
0+阅读 · 4月23日
Non-Equilibrium Stochastic Dynamics as a Unified Framework for Insight and Repetitive Learning: A Kramers Escape Approach to Continual Learning
Arxiv
0+阅读 · 4月5日
NORACL: Neurogenesis for Oracle-free Resource-Adaptive Continual Learning
Arxiv
0+阅读 · 4月29日
LiFeChain: Lightweight Blockchain for Secure and Efficient Federated Lifelong Learning in IoT
Arxiv
0+阅读 · 3月30日
On the Theory of Continual Learning with Gradient Descent for Neural Networks
Arxiv
0+阅读 · 4月20日
参考链接
微信扫码咨询专知VIP会员
Top