In this paper, we elucidate the geometry of Stein's method of moments (SMoM). SMoM is a parameter estimation method based on the Stein operator, and yields a wide class of estimators that do not depend on the normalizing constant. We present a canonical decomposition of an SMoM estimator after centering the score matching estimator, which sheds light on the central role of the score matching within the SMoM framework. Using this decomposition, we construct an SMoM estimator that improves upon the score matching estimator in the asymptotic variance. We also discuss the connection between SMoM and the Wasserstein geometry. Specifically, using the Wasserstein score function, we provide a geometrical interpretation of the gap in the asymptotic variance between the score matching estimator and the maximum likelihood estimator. Furthermore, it is shown that the score matching estimator is asymptotically efficient if and only if the Fisher score functions span the same space as the Wasserstein score functions.


翻译:本文阐明了Stein矩量法的几何结构。Stein矩量法是一种基于Stein算子的参数估计方法,可产生一类不依赖于归一化常数的估计量。我们提出了在中心化得分匹配估计量后Stein矩量法估计量的典型分解,这揭示了得分匹配在Stein矩量法框架中的核心作用。利用该分解,我们构建了一个在渐近方差上优于得分匹配估计量的Stein矩量法估计量。我们还讨论了Stein矩量法与Wasserstein几何之间的联系。具体而言,利用Wasserstein得分函数,我们给出了得分匹配估计量与最大似然估计量之间渐近方差差异的几何解释。此外,研究证明当且仅当Fisher得分函数与Wasserstein得分函数张成相同空间时,得分匹配估计量才是渐近有效的。

0
下载
关闭预览

相关内容

【经典书】矩阵分析基础及其应用,409页pdf
专知会员服务
94+阅读 · 2022年11月21日
专知会员服务
42+阅读 · 2021年4月2日
【硬核书】矩阵代数:统计学的理论、计算和应用,664页pdf
从模型到应用,一文读懂因子分解机
AI100
10+阅读 · 2019年9月6日
【干货】理解深度学习中的矩阵运算
机器学习研究会
18+阅读 · 2018年2月12日
干货|掌握机器学习数学基础之优化[1](重点知识)
机器学习研究会
10+阅读 · 2017年11月19日
Spark机器学习:矩阵及推荐算法
LibRec智能推荐
16+阅读 · 2017年8月3日
国家自然科学基金
8+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
BES:让语言模型通过双向进化搜索自我改进
专知会员服务
3+阅读 · 5月30日
以色列-美国-伊朗战争中的无人机:关键要点
专知会员服务
4+阅读 · 5月30日
《Palantir任务保障性软件安全标准(MA-S2)》
专知会员服务
10+阅读 · 5月30日
基于声学的无人机检测技术综述
专知会员服务
7+阅读 · 5月30日
《当代混合战争分析框架:俄乌战争经验教训》
战略前沿人工智能的再思考(中文)
专知会员服务
8+阅读 · 5月29日
《量化地基防空系统间接效应的博弈论方法》
专知会员服务
6+阅读 · 5月29日
相关VIP内容
【经典书】矩阵分析基础及其应用,409页pdf
专知会员服务
94+阅读 · 2022年11月21日
专知会员服务
42+阅读 · 2021年4月2日
【硬核书】矩阵代数:统计学的理论、计算和应用,664页pdf
相关基金
国家自然科学基金
8+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员