会员服务
Evaluating the Applicability of LLM Inference Optimizations on Apple Silicon
Arxiv
0+阅读 · 10月22日
HAWK: Heterogeneity-Aware KV Cache Transfer for Efficient GPU-NPU Phase-Disaggregated LLM Inference
Arxiv
0+阅读 · 10月21日
Enumeration-based Triangle Counting on GPUs
Arxiv
0+阅读 · 10月21日
FIGFLEX: A Mixed-Precision FP-INT GEMM Accelerator Co-Designed with Low-Bit LLM Quantization
Arxiv
0+阅读 · 10月21日
Engineering Low-Latency, High-Throughput Quantum Decoders on NVIDIA GPUs
Arxiv
0+阅读 · 10月20日
Emulating DGEMM and ZGEMM with INT8 Matrix Engines on Intel Arc GPUs: Ozaki Scheme II on the Xe2 Architecture
Arxiv
0+阅读 · 10月18日
SweepANN: A GPU-Accelerated Large-K Approximate Vector Search for Drug Discovery
Arxiv
0+阅读 · 10月19日
GeoTrain: Energy-Aware Automatic Parallelism for Foundation Model Training on Heterogeneous Geo-Distributed Resources
Arxiv
0+阅读 · 10月19日
Democratizing MoE inference on commodity GPUs with CoMoE
Arxiv
0+阅读 · 10月19日
Fine-Grained Parallel Graph Algorithms Can Be Both Fast and Scalable
Arxiv
0+阅读 · 10月18日
Ineffective Occupancy in Heterogeneous GPU Clusters: Prediction, Contribution Analysis, and Readiness-Aware Scheduling
Arxiv
0+阅读 · 10月18日
Triple Overlap in Pipelined Krylov Methods on Multi-GPU Systems
Arxiv
0+阅读 · 10月18日
PACT: NVFP4 Data-Flow LoRA Fine-Tuning on Consumer GPUs
Arxiv
0+阅读 · 10月18日
Cerium: A Multi-GPU Framework for Terabyte-Scale Encrypted Inference
Arxiv
0+阅读 · 10月18日
Efficient Training on Multiple Consumer GPUs with RoundPipe
Arxiv
0+阅读 · 10月18日
参考链接
微信扫码咨询专知VIP会员
Top