Multivariate Gaussian distributions enjoy Gaussian conditional distributions that makes conditioning easy: conditioning boils down to implementing analytical formulae for conditional means and covariances. For more general distributions, however, conditional distributions may not be available in analytical form and require demanding and approximate numerical approaches. Primarily motivatedby probabilistic imputation problems, we review and discuss families of multivariate distributions that do enjoy analytical conditioning, also providing a few counter-examples. Proving that trans-dimensional stability under conditioning extends to mixtures and transformations, we demonstrate that a broader class of multivariate distributions inherit easy conditioning properties. Building on this insight, we developed a generative method to estimate conditional distributions from data by first fitting a flexible joint distribution using copulas and then performing analytical conditioning in a latent space. In our applications, we specifically opt for Gaussian Mixture Copula Models (GMCM), comparing in turn various fitting strategies. Through simulations and real-world data experiments, we showcase the efficacy of our method in tasks involving conditional density estimation and data imputation. We also touch upon links to Gaussian process modelling and how stability by mixtures and transformations and mixtures carries over towards easy conditioning of non-Gaussian processes.


翻译:多元高斯分布因其条件分布仍为高斯分布而具有简易条件化的特性:条件化简化为对条件均值和协方差实施解析公式。然而,对于更一般的分布,条件分布可能无法以解析形式获得,需要采用计算量大且近似的数值方法。主要受概率插补问题的驱动,我们回顾并讨论了确实具有解析条件化的多元分布族,同时提供了一些反例。通过证明条件化下的跨维度稳定性可推广至混合分布和变换分布,我们展示了一类更广泛的多元分布继承了简易条件化的性质。基于这一见解,我们开发了一种生成式方法,该方法首先使用Copula拟合灵活的联合分布,随后在潜在空间中进行解析条件化,从而从数据中估计条件分布。在我们的应用中,我们特别选择了高斯混合Copula模型(GMCM),并比较了多种拟合策略。通过模拟和真实数据实验,我们展示了该方法在条件密度估计和数据插补任务中的有效性。我们还探讨了与高斯过程建模的联系,以及混合与变换的稳定性如何使得非高斯过程的简易条件化成为可能。

0
下载
关闭预览

相关内容

ENJOY,一个“懂吃、会选、有格调”的美食电商平台——• 一触即享:为你精选优质餐厅定制独家菜单;• 可见可购:优质生活方式快递良品一网打尽;• 精致美丽:专业美食摄影师呈现的高清美图;• 限时优惠:覆盖全品类的专享折扣每日更新;岁月蹉跎,不如好好吃上一顿。ENJOY NOW!ENJOY 致力于解决“如何吃的更好”。
《图简化(Graph Reduction)》最新综述
专知会员服务
31+阅读 · 2024年2月10日
【CMU博士论文】高斯表示的可微渲染和优化,198页pdf
专知会员服务
27+阅读 · 2023年10月5日
通过条件梯度进行结构化机器学习训练,50页ppt与视频
专知会员服务
13+阅读 · 2021年2月25日
最新《高斯过程回归简明教程》,19页pdf
专知会员服务
73+阅读 · 2020年9月30日
面试题:简单说说贝叶斯定理
七月在线实验室
12+阅读 · 2019年6月12日
解读 | 得见的高斯过程
机器学习算法与Python学习
14+阅读 · 2019年2月13日
这可能是「多模态机器学习」最通俗易懂的介绍
计算机视觉life
113+阅读 · 2018年12月20日
条件概率和贝叶斯公式 - 图解概率 03
遇见数学
10+阅读 · 2018年6月5日
从点到线:逻辑回归到条件随机场
夕小瑶的卖萌屋
15+阅读 · 2017年7月22日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
重新思考无人机时代的生存能力
专知会员服务
4+阅读 · 今天7:44
装甲突击旅:现代战争思考、战斗与组织
专知会员服务
4+阅读 · 今天7:28
在人工智能加速决策环境中拓展OODA循环
专知会员服务
4+阅读 · 今天7:18
军事欺骗:供作战战术指挥官使用的工具
专知会员服务
4+阅读 · 今天7:03
综述 | 世界动作模型:少做梦,多行动
专知会员服务
5+阅读 · 6月23日
美以伊冲突:无人机与人工智能的运用
专知会员服务
10+阅读 · 6月23日
《特种部队在透明战场中的生存力》最新报告
专知会员服务
5+阅读 · 6月23日
相关VIP内容
相关资讯
面试题:简单说说贝叶斯定理
七月在线实验室
12+阅读 · 2019年6月12日
解读 | 得见的高斯过程
机器学习算法与Python学习
14+阅读 · 2019年2月13日
这可能是「多模态机器学习」最通俗易懂的介绍
计算机视觉life
113+阅读 · 2018年12月20日
条件概率和贝叶斯公式 - 图解概率 03
遇见数学
10+阅读 · 2018年6月5日
从点到线:逻辑回归到条件随机场
夕小瑶的卖萌屋
15+阅读 · 2017年7月22日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员