Large-scale modern data often involves estimation and testing for high-dimensional unknown parameters. It is desirable to identify the sparse signals, ``the needles in the haystack'', with accuracy and false discovery control. However, the unprecedented complexity and heterogeneity in modern data structure require new machine learning tools to effectively exploit commonalities and to robustly adjust for both sparsity and heterogeneity. In addition, estimates for high-dimensional parameters often lack uncertainty quantification. In this paper, we propose a novel Spike-and-Nonparametric mixture prior (SNP) -- a spike to promote the sparsity and a nonparametric structure to capture signals. In contrast to the state-of-the-art methods, the proposed methods solve the estimation and testing problem at once with several merits: 1) an accurate sparsity estimation; 2) point estimates with shrinkage/soft-thresholding property; 3) credible intervals for uncertainty quantification; 4) an optimal multiple testing procedure that controls false discovery rate. Our method exhibits promising empirical performance on both simulated data and a gene expression case study.


翻译:大型现代数据往往涉及对高维未知参数的估计和测试。 有必要确定稀有信号, 即“ 干草堆中的针头 ”, 准确性和虚假的发现控制。 然而,现代数据结构的空前复杂性和异质性需要新的机器学习工具,以有效地利用共性,并强有力地适应宽度和异质性。 此外, 对高维参数的估计往往缺乏不确定性的量化。 在本文中,我们建议先用一个新的 Spik-and-nectric 混合物(SNP) -- -- 一种刺激孔隙性和非参数结构来捕捉信号的激增。 与最先进的方法不同,拟议方法可以同时用几种优点解决估计和测试问题:(1) 准确的宽度估计;(2) 使用缩放/软性财产的点估计;(3) 可靠的不确定性量化间隔;(4) 一种控制虚假发现率的最佳多重测试程序。 我们的方法显示,在模拟数据和基因表达案例研究方面,有希望有经验性。

0
下载
关闭预览

相关内容

最新《图理论》笔记书,98页pdf
专知会员服务
76+阅读 · 2020年12月27日
专知会员服务
52+阅读 · 2020年12月14日
因果图,Causal Graphs,52页ppt
专知会员服务
254+阅读 · 2020年4月19日
IEEE | DSC 2019诚邀稿件 (EI检索)
Call4Papers
10+阅读 · 2019年2月25日
【泡泡一分钟】基于运动估计的激光雷达和相机标定方法
泡泡机器人SLAM
25+阅读 · 2019年1月17日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
【学习】Hierarchical Softmax
机器学习研究会
4+阅读 · 2017年8月6日
Arxiv
0+阅读 · 2021年8月13日
Arxiv
4+阅读 · 2018年1月15日
VIP会员
最新内容
世界模型入门:从序贯决策到通用智能体
专知会员服务
8+阅读 · 10月24日
军事域更好使用人工智能的实用指南
专知会员服务
10+阅读 · 10月22日
《衡量语言模型中的作战规划能力》
专知会员服务
14+阅读 · 10月20日
Maven智能系统:帕兰提尔军事人工智能平台详解
专知会员服务
17+阅读 · 10月20日
《测试自动化框架在敏捷软件开发中的角色》
专知会员服务
9+阅读 · 10月20日
俄罗斯如何拦截乌克兰无人机与巡航导弹
专知会员服务
13+阅读 · 10月15日
《武器-目标分配问题:精确与近似求解算法》
专知会员服务
19+阅读 · 10月15日
Top
微信扫码咨询专知VIP会员