会员服务
MemBoost: A Memory-Boosted Framework for Cost-Aware LLM Inference
Arxiv
0+阅读 · 6月15日
CentroidKV: Efficient Long-Context LLM Inference via KV Cache Clustering
Arxiv
0+阅读 · 6月14日
ReMoE: Boosting Expert Reuse through Router Fine-Tuning in Memory-Constrained MoE LLM Inference
Arxiv
0+阅读 · 5月26日
TileFuse: A Fused Mixed-Precision Kernel Library for Efficient Quantized LLM Inference on AMD NPUs
Arxiv
0+阅读 · 6月9日
LLM-Driven Reasoning for Constraint-Aware Feature Selection in Industrial Systems
Arxiv
0+阅读 · 3月26日
Active Imitation Learning for Thermal- and Kernel-Aware LFM Inference on 3D S-NUCA Many-Cores
Arxiv
0+阅读 · 4月13日
参考链接
微信扫码咨询专知VIP会员
Top