In this paper, we elucidate the geometry of Stein's method of moments (SMoM). SMoM is a parameter estimation method based on the Stein operator, and yields a wide class of estimators that do not depend on the normalizing constant. We present a canonical decomposition of an SMoM estimator after centering the score matching estimator, which sheds light on the central role of the score matching within the SMoM framework. Using this decomposition, we construct an SMoM estimator that improves upon the score matching estimator in the asymptotic variance. We also discuss the connection between SMoM and the Wasserstein geometry. Specifically, using the Wasserstein score function, we provide a geometrical interpretation of the gap in the asymptotic variance between the score matching estimator and the maximum likelihood estimator. Furthermore, it is shown that the score matching estimator is asymptotically efficient if and only if the Fisher score functions span the same space as the Wasserstein score functions.


翻译:本文阐明了Stein矩量法的几何结构。Stein矩量法是一种基于Stein算子的参数估计方法,可产生一类不依赖于归一化常数的估计量。我们提出了在中心化得分匹配估计量后Stein矩量法估计量的典型分解,这揭示了得分匹配在Stein矩量法框架中的核心作用。利用该分解,我们构建了一个在渐近方差上优于得分匹配估计量的Stein矩量法估计量。我们还讨论了Stein矩量法与Wasserstein几何之间的联系。具体而言,利用Wasserstein得分函数,我们给出了得分匹配估计量与最大似然估计量之间渐近方差差异的几何解释。此外,研究证明当且仅当Fisher得分函数与Wasserstein得分函数张成相同空间时,得分匹配估计量才是渐近有效的。

0
下载
关闭预览

相关内容

【经典书】矩阵分析基础及其应用,409页pdf
专知会员服务
94+阅读 · 2022年11月21日
专知会员服务
42+阅读 · 2021年4月2日
【硬核书】矩阵代数:统计学的理论、计算和应用,664页pdf
从模型到应用,一文读懂因子分解机
AI100
10+阅读 · 2019年9月6日
【干货】理解深度学习中的矩阵运算
机器学习研究会
18+阅读 · 2018年2月12日
干货|掌握机器学习数学基础之优化[1](重点知识)
机器学习研究会
10+阅读 · 2017年11月19日
Spark机器学习:矩阵及推荐算法
LibRec智能推荐
16+阅读 · 2017年8月3日
国家自然科学基金
8+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月4日
VIP会员
最新内容
最新“指挥控制”领域出版物合集(简介)
专知会员服务
1+阅读 · 今天15:19
面向军事作战需求开发的人工智能(RAIMOND)
专知会员服务
3+阅读 · 今天15:13
软件定义多域战术网络:基础与未来方向(综述)
水下战战术决策中的气象与海洋预报(50页报告)
远程空中优势:新一代超视距导弹的兴起
专知会员服务
1+阅读 · 今天14:45
大语言模型溯因推理的统一分类学与综述
专知会员服务
0+阅读 · 今天12:07
相关VIP内容
【经典书】矩阵分析基础及其应用,409页pdf
专知会员服务
94+阅读 · 2022年11月21日
专知会员服务
42+阅读 · 2021年4月2日
【硬核书】矩阵代数:统计学的理论、计算和应用,664页pdf
相关基金
国家自然科学基金
8+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员