会员服务
HybridKV: Hybrid KV Cache Compression for Efficient Multimodal Large Language Model Inference
Arxiv
0+阅读 · 4月7日
Transferability of Token Usage Rights: A Design Space Analysis of Generative AI Services
Arxiv
0+阅读 · 4月29日
Are Latent Reasoning Models Easily Interpretable?
Arxiv
0+阅读 · 4月6日
Retrieval Is Not Enough: Why Organizational AI Needs Epistemic Infrastructure
Arxiv
0+阅读 · 4月13日
The 1/W Law: An Analytical Study of Context-Length Routing Topology and GPU Generation Gains for LLM Inference Energy Efficiency
Arxiv
0+阅读 · 4月27日
Revisiting On-Policy Distillation: Empirical Failure Modes and Simple Fixes
Arxiv
0+阅读 · 3月26日
TokenWeave: Efficient Compute-Communication Overlap for Distributed LLM Inference
Arxiv
0+阅读 · 5月1日
Token Arena: A Continuous Benchmark Unifying Energy and Cognition in AI Inference
Arxiv
0+阅读 · 5月1日
Differential Privacy in Generative AI Agents: Analysis and Optimal Tradeoffs
Arxiv
0+阅读 · 3月18日
RCW-CIM: A Digital CIM-based LLM Accelerator with Read-Compute/Write
Arxiv
0+阅读 · 4月30日
WRAP++: Web discoveRy Amplified Pretraining
Arxiv
0+阅读 · 4月9日
Not All Tokens Matter: Towards Efficient LLM Reasoning via Token Significance in Reinforcement Learning
Arxiv
0+阅读 · 4月6日
Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses
Arxiv
0+阅读 · 4月28日
Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses
Arxiv
0+阅读 · 4月29日
Emergent Introspection in AI is Content-Agnostic
Arxiv
0+阅读 · 4月7日
参考链接
微信扫码咨询专知VIP会员
Top