Federated Bayesian modeling requires combining evidence from distributed users into a coherent global posterior while keeping users' raw data on-device. We propose Federated Latent Graph MCMC (FLaG-MCMC), a computationally efficient framework for federated learning in which historical posterior samples of a shared global parameter are encoded into a learned low-dimensional latent space, connected via a $k$-nearest-neighbor graph, and transferred sequentially to new users as a nonparametric prior. Each user runs graph-based MCMC in the latent space guided by their own likelihood, returns updated global samples to the server, and retains local latent variables on-device. We demonstrate FLaG-MCMC on Bayesian meta-analysis for opioid use disorder prevalence estimation and on federated topic modeling, where the federated posterior closely approximates the pooled full-data posterior for both global parameters and local user-level inference.


翻译:联邦贝叶斯建模需要将来自分布式用户的证据整合为一致的全局后验分布,同时保留用户原始数据在终端设备上。我们提出联邦潜在图马尔可夫链蒙特卡洛方法(FLaG-MCMC),这是一种计算高效的联邦学习框架:将共享全局参数的历史后验样本编码到经学习的低维潜在空间中,通过$k$-近邻图进行连接,并作为非参数先验依次传递至新用户。每个用户在潜在空间中基于自身似然执行图驱动MCMC,将更新后的全局样本返回服务器,并在终端设备上保留局部潜在变量。我们在面向阿片类药物使用障碍患病率估算的贝叶斯元分析以及联邦主题建模中验证了FLaG-MCMC——联邦后验分布能够高度逼近汇集完整数据的后验分布,实现全局参数与局部用户级推断的一致拟合。

0
下载
关闭预览

相关内容

模型联邦网络构建及示范应用
专知会员服务
11+阅读 · 2025年7月31日
【CVPR2024】贝叶斯扩散模型用于三维形状重建
专知会员服务
34+阅读 · 2024年3月12日
《贝叶斯神经网络的联邦学习》2023最新73页论文
专知会员服务
62+阅读 · 2023年5月7日
【2023新书】贝叶斯统计建模:使用Stan、R和Python,395页pdf
专知会员服务
64+阅读 · 2021年6月11日
专知会员服务
33+阅读 · 2021年5月18日
【Nature】贝叶斯统计与建模综述,26页pdf
专知会员服务
77+阅读 · 2021年1月21日
【2022新书】贝叶斯建模与Python建模
专知
19+阅读 · 2022年1月9日
【资源】联邦学习相关文献资源大列表
专知
10+阅读 · 2020年2月25日
【GitHub】BERT模型从训练到部署全流程
专知
34+阅读 · 2019年6月28日
贝叶斯机器学习前沿进展
机器学习研究会
21+阅读 · 2018年1月21日
贝叶斯网络入门
论智
15+阅读 · 2017年11月19日
国家自然科学基金
5+阅读 · 2017年12月31日
国家自然科学基金
16+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Arxiv
0+阅读 · 6月8日
Arxiv
0+阅读 · 3月27日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
6+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
4+阅读 · 6月17日
相关VIP内容
相关资讯
【2022新书】贝叶斯建模与Python建模
专知
19+阅读 · 2022年1月9日
【资源】联邦学习相关文献资源大列表
专知
10+阅读 · 2020年2月25日
【GitHub】BERT模型从训练到部署全流程
专知
34+阅读 · 2019年6月28日
贝叶斯机器学习前沿进展
机器学习研究会
21+阅读 · 2018年1月21日
贝叶斯网络入门
论智
15+阅读 · 2017年11月19日
相关基金
国家自然科学基金
5+阅读 · 2017年12月31日
国家自然科学基金
16+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员