会员服务
PEPS: Positional Encoding Projected Sampling -- Extended
Arxiv
0+阅读 · 4月27日
Impact of Positional Encoding: Clean and Adversarial Rademacher Complexity for Transformers under In-Context Regression
Arxiv
0+阅读 · 3月24日
ExPosST: Explicit Positioning with Adaptive Masking for LLM-Based Simultaneous Machine Translation
Arxiv
0+阅读 · 3月29日
CRoPE: Efficient Parametrization of Rotary Positional Embedding
Arxiv
0+阅读 · 4月1日
LooseRoPE: Content-aware Attention Manipulation for Semantic Harmonization
Arxiv
0+阅读 · 4月23日
Information-Theoretic Limits of Node Localization under Hybrid Graph Positional Encodings
Arxiv
0+阅读 · 3月26日
ViTaPEs: Visuotactile Position Encodings for Cross-Modal Alignment in Multimodal Transformers
Arxiv
0+阅读 · 4月29日
Learning to Rotate: Temporal and Semantic Rotary Encoding for Sequential Modeling
Arxiv
0+阅读 · 4月27日
What DINO saw: ALiBi positional encoding reduces positional bias in Vision Transformers
Arxiv
0+阅读 · 3月17日
Exact Consistency Under Partial Views: Graph Colorability, Capacity, and Equality in Multi-Location Encodings
Arxiv
0+阅读 · 3月16日
Surgical Repair of Collapsed Attention Heads in ALiBi Transformers
Arxiv
0+阅读 · 3月10日
Zero-Incoherence Capacity of Interactive Encoding Systems: Achievability, Converse, and Side Information Bounds
Arxiv
0+阅读 · 2月26日
LLMs are Bayesian, In Expectation, Not in Realization
Arxiv
0+阅读 · 2月22日
ID-LoRA: Identity-Driven Audio-Video Personalization with In-Context LoRA
Arxiv
0+阅读 · 3月10日
Beyond Positional Encoding: A 5D Spatio-Directional Hash Encoding
Arxiv
0+阅读 · 3月5日
参考链接
微信扫码咨询专知VIP会员
Top