会员服务
A Systematic Evaluation of On-Device LLMs: Quantization, Performance, and Resources
Arxiv
0+阅读 · 3月16日
Accelerating Local LLMs on Resource-Constrained Edge Devices via Distributed Prompt Caching
Arxiv
0+阅读 · 2月26日
TrainDeeploy: Hardware-Accelerated Parameter-Efficient Fine-Tuning of Small Transformer Models at the Extreme Edge
Arxiv
0+阅读 · 3月10日
BiKA: Kolmogorov-Arnold-Network-inspired Ultra Lightweight Neural Network Hardware Accelerator
Arxiv
0+阅读 · 2月26日
HillInfer: Efficient Long-Context LLM Inference on the Edge with Hierarchical KV Eviction using SmartSSD
Arxiv
0+阅读 · 2月21日
LQA: A Lightweight Quantized-Adaptive Framework for Vision-Language Models on the Edge
Arxiv
0+阅读 · 2月17日
Compiler-Assisted Speculative Sampling for Accelerated LLM Inference on Heterogeneous Edge Devices
Arxiv
0+阅读 · 2月10日
Cognitive Edge Device (CED) for Real-Time Environmental Monitoring in Aquatic Ecosystems
Arxiv
0+阅读 · 2月7日
LQA: A Lightweight Quantized-Adaptive Framework for Vision-Language Models on the Edge
Arxiv
0+阅读 · 2月8日
Floe: Federated Specialization for Real-Time LLM-SLM Inference
Arxiv
0+阅读 · 2月15日
LoRA-based Parameter-Efficient LLMs for Continuous Learning in Edge-based Malware Detection
Arxiv
0+阅读 · 2月12日
Decentralized Federated Learning With Energy Harvesting Devices
Arxiv
0+阅读 · 2月15日
SnapGen++: Unleashing Diffusion Transformers for Efficient High-Fidelity Image Generation on Edge Devices
Arxiv
0+阅读 · 2月11日
DeepFusion: Accelerating MoE Training via Federated Knowledge Distillation from Heterogeneous Edge Devices
Arxiv
0+阅读 · 2月15日
TriCloudEdge: A multi-layer Cloud Continuum
Arxiv
0+阅读 · 2月13日
参考链接
微信扫码咨询专知VIP会员
Top