会员服务
In-Context Batch Black-box Optimization via Flow Matching
Arxiv
0+阅读 · 10月15日
In-Context Batch Black-box Optimization via Flow Matching
Arxiv
0+阅读 · 10月14日
Scaling Repeated-Data Pretraining: Batch Size, Regularization, and GPU-Time Tradeoffs
Arxiv
0+阅读 · 10月11日
Convergence of Sharpness-Aware Minimization Algorithms using Increasing Batch Size and Decaying Learning Rate
Arxiv
0+阅读 · 10月12日
The Best Optimizer Depends on Batch Size
Arxiv
0+阅读 · 10月12日
Asymptotic Risk of Learning-Rate Schedules for Least-Squares Regression with Discretely Distributed Features
Arxiv
0+阅读 · 10月12日
Requests of a Feather Must Flock Together: Batch Size vs. Prefix Homogeneity in LLM Inference
Arxiv
0+阅读 · 10月10日
Convergence of Sharpness-Aware Minimization Algorithms using Increasing Batch Size and Decaying Learning Rate
Arxiv
0+阅读 · 10月6日
Why Does Adaptive Batching Help LLM Pretraining? A Perspective from Unbounded Variance
Arxiv
0+阅读 · 10月1日
A Single-Loop, Constant-Batch First-Order Penalty Method for Stochastic Bilevel Optimization
Arxiv
0+阅读 · 10月5日
On the Escaping Efficiency of Distributed Adversarial Training Algorithms
Arxiv
0+阅读 · 10月1日
Momentum in large-batch training: Polyak enlarges the critical batch size, Nesterov improves data efficiency
Arxiv
0+阅读 · 9月2日
Deriving Scaling Laws for OpenEuroLLM Models: Learning Rate, Batch Size and Loss
Arxiv
0+阅读 · 8月31日
GRZO: Group-Relative Zeroth-Order Optimization for Large Language Model Fine-Tuning
Arxiv
0+阅读 · 8月29日
Deriving Scaling Laws for OpenEuroLLM Models: Learning Rate, Batch Size and Loss
Arxiv
0+阅读 · 8月28日
参考链接
微信扫码咨询专知VIP会员
Top