会员服务
ReMP: Low-Downtime Runtime Model-Parallelism Reconfiguration for LLM Serving
Arxiv
0+阅读 · 6月17日
Tangram: Hiding GPU Heterogeneity for Efficient LLM Parallelization
Arxiv
0+阅读 · 6月15日
Teaching Diffusion to Speculate Left-to-Right
Arxiv
0+阅读 · 6月10日
An Interpretable Latency Model for Speculative Decoding in LLM Serving
Arxiv
0+阅读 · 5月14日
Demystifying Pipeline Parallelism: First Theory for PipeDream
Arxiv
0+阅读 · 6月2日
Heterogeneous Low-Bandwidth Pre-Training of LLMs
Arxiv
0+阅读 · 1月5日
HiGen: Hierarchical Graph Generative Networks
Arxiv
0+阅读 · 2025年12月30日
Arbitrage: Efficient Reasoning via Advantage-Aware Speculation
Arxiv
0+阅读 · 2025年12月4日
Arbitrage: Efficient Reasoning via Advantage-Aware Speculation
Arxiv
0+阅读 · 2025年12月9日
LLM Inference Beyond a Single Node: From Bottlenecks to Mitigations with Fast All-Reduce Communication
Arxiv
0+阅读 · 2025年11月13日
LLM Inference Beyond a Single Node: From Bottlenecks to Mitigations with Fast All-Reduce Communication
Arxiv
0+阅读 · 2025年12月15日
Synergistic Tensor and Pipeline Parallelism
Synergistic Tensor and Pipeline Parallelism
Arxiv
0+阅读 · 2025年10月31日
Model Parallelism With Subnetwork Data Parallelism
Arxiv
0+阅读 · 2025年10月2日
Model Parallelism With Subnetwork Data Parallelism
Arxiv
0+阅读 · 2025年10月1日
Oases: Efficient Large-Scale Model Training on Commodity Servers via Overlapped and Automated Tensor Model Parallelism
Arxiv
0+阅读 · 2025年6月30日
参考链接
微信扫码咨询专知VIP会员
Top