In this work we take a new approach to constructing a universal sketch that focuses on a class of \emph{basis functions} $\{f_s(x)=1-\cos(sx)\mid s>0\}$, so that any $f$-moment can be estimated if $f$ can be expressed as a linear combination of basis functions. We construct and analyze the $\mathsf{SymmetricPoissonTower}$ sketch, which occupies $O(\epsilon^{-2}\log^2(nM\epsilon^{-1}))$ bits and is $\mathcal{F}$-universal for the function class $$\mathcal{F}= \left\{f(x)=cx^2+\int_0^\infty (1-\cos (xs))\,\nu(ds) \mid c\geq 0, \text{$\nu$ is a positive measure}\right\},$$ i.e., given any $f\in \mathcal{F}$, the new sketch $(1\pm\epsilon)$-estimates the $f$-moment with probability 2/3. The family $\mathcal{F}$ includes all the classic frequency moments ($f(z)=|z|^p$, $p\in [0,2]$) as well as a large family of nearly-periodic functions that cannot be estimated with $L_2$-heavy hitter machinery. This new approach to universality requires significantly less space in comparison to previous universal schemes and sheds new light on the full characterization of the class $\mathcal{T}$ of tractable functions.


翻译:在本研究中,我们采用一种新方法构建通用草图,其核心聚焦于一类\emph{基函数} $\{f_s(x)=1-\cos(sx)\mid s>0\}$,使得任何$f$矩均可在$f$可表示为基函数线性组合时进行估计。我们构建并分析了$\mathsf{SymmetricPoissonTower}$草图,该草图占用$O(\epsilon^{-2}\log^2(nM\epsilon^{-1}))$比特,且对函数类$$\mathcal{F}= \left\{f(x)=cx^2+\int_0^\infty (1-\cos (xs))\,\nu(ds) \mid c\geq 0, \text{$\nu$为正测度}\right\}$$具有$\mathcal{F}$-普适性,即对于任意$f\in \mathcal{F}$,新草图能以2/3概率实现$f$矩的$(1\pm\epsilon)$估计。函数族$\mathcal{F}$包含所有经典频率矩($f(z)=|z|^p$, $p\in [0,2]$)以及一大类无法用$L_2$-频繁项技术估计的近似周期函数。相较于先前的通用方案,这种新的普适性构建方法所需空间显著减少,并为完全刻画可处理函数类$\mathcal{T}$的特征提供了新的理论视角。

0
下载
关闭预览

相关内容

FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
34+阅读 · 2019年10月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
60+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
32+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
164+阅读 · 2019年10月12日
【NeurIPS2019】图变换网络:Graph Transformer Network
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
STRCF for Visual Object Tracking
统计学习与视觉计算组
15+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
国家自然科学基金
13+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2024年8月22日
Arxiv
0+阅读 · 2024年8月21日
Arxiv
0+阅读 · 2024年8月19日
Arxiv
0+阅读 · 2024年8月15日
VIP会员
最新内容
人工智能赋能无人机:俄乌战争(万字长文)
专知会员服务
5+阅读 · 4月23日
国外海军作战管理系统与作战训练系统
专知会员服务
2+阅读 · 4月23日
美军条令《海军陆战队规划流程(2026版)》
专知会员服务
10+阅读 · 4月23日
《压缩式分布式交互仿真标准》120页
专知会员服务
4+阅读 · 4月23日
《电子战数据交换模型研究报告》
专知会员服务
6+阅读 · 4月23日
《低数据领域军事目标检测模型研究》
专知会员服务
6+阅读 · 4月23日
【CMU博士论文】物理世界的视觉感知与深度理解
专知会员服务
10+阅读 · 4月22日
相关资讯
【NeurIPS2019】图变换网络:Graph Transformer Network
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
STRCF for Visual Object Tracking
统计学习与视觉计算组
15+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
相关论文
相关基金
国家自然科学基金
13+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员