We investigate the properties of a class of regularisation-free approaches for Gaussian graphical inference based on the information-geometry-driven sequential growth of initially edgeless graphs. Relating the growth of a graph to a coordinate descent process, we characterise the fully-corrective descents corresponding to information-optimal growths, and propose numerically efficient strategies for their approximation. We demonstrate the ability of the proposed procedures to reliably extract sparse graphical models while limiting the number of false detections, and illustrate how activation ranks can provide insight into the informational relevance of edge sets. The considered approaches are tuning-parameter-free and have complexities akin to coordinate descents.


翻译:本文研究了一类基于信息几何驱动的无正则化高斯图推断方法,该方法从初始无边的图开始进行序列增长。通过将图的增长过程与坐标下降过程相关联,我们刻画了对应于信息最优增长的完全校正下降,并提出了数值高效的近似策略。我们证明了所提方法能够可靠地提取稀疏图模型,同时限制误检数量,并阐释了激活排序如何揭示边集的信息相关性。所考虑的方法无需调参,且计算复杂度与坐标下降算法相当。

0
下载
关闭预览

相关内容

信息几何[Ama16, AJLS17, Ama21]旨在解开概率分布族的几何结构,并研究它们在信息科学中的应用。信息学是将统计学、信息论、信号处理、机器学习和人工智能等重新组合起来的一个总称。信息几何是计量经济学家H. Hotelling(1930)和统计学家C. R. Rao(1945)出于数学上的好奇心而独立诞生的,他们考虑了概率分布的参数族,称为统计模型,是一种带有费雪度量张量的黎曼流形[Nie20]。信息几何通过使用微分几何的概念(如曲率)和张量微积分来解决问题。在他的开创性工作中,Rao考虑了流形上的黎曼测地距离和测地球来研究统计学中的分类和假设检验问题。
图增强生成(GraphRAG)
专知会员服务
34+阅读 · 2025年1月4日
图数据库的发展脉络与技术演进
专知会员服务
25+阅读 · 2023年1月17日
Graph Transformer近期进展
专知会员服务
65+阅读 · 2023年1月5日
几何观点下的深度学习
专知会员服务
35+阅读 · 2022年12月13日
【AAAI2023】用于图对比学习的谱特征增强
专知
20+阅读 · 2022年12月11日
图机器学习 2.2-2.4 Properties of Networks, Random Graph
图与推荐
10+阅读 · 2020年3月28日
“推荐系统”加上“图神经网络”
机器学习与推荐算法
12+阅读 · 2020年3月23日
知识图谱的自动构建
DataFunTalk
58+阅读 · 2019年12月9日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Arxiv
0+阅读 · 2月9日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员