Hidden Markov models (HMMs) are powerful tools for analysing time series data that depend on discrete underlying but unobserved states. As such, they have gained prominence across numerous empirical disciplines, in particular ecology, medicine, and economics. However, the increasing complexity of empirical data is often accompanied by additional latent structure such as spatial effects, temporal trends, or measurement perturbations. Gaussian fields provide an attractive building block for incorporating such structured latent variation into HMMs. Fast inference methods for Gaussian fields have emerged through the stochastic partial differential equation (SPDE) approach. Due to their sparse representation, these integrate well with novel frequentist estimation methods for random-effects models via the use of automatic differentiation and the Laplace approximation. Scaling to high dimensions requires tools such as (R)TMB to exploit sparsity in the Hessian w.r.t. the latent variables - a property satisfied by SPDE fields but violated by the HMM likelihood. We present a modified forward algorithm to compute the HMM likelihood, constructing sparsity in the Hessian and consequently enabling fast and scalable inference. We demonstrate the practical feasibility and the usefulness through simulations and two case studies exploring the detection of stellar flares as well as modelling the movement of lions.


翻译:隐马尔可夫模型(HMMs)是分析依赖于离散潜在未观测状态的时间序列数据的有力工具。因此,该模型在众多实证学科中获得了广泛应用,特别是在生态学、医学和经济学领域。然而,实证数据日益增长的复杂性往往伴随着额外的潜在结构,如空间效应、时间趋势或测量扰动。高斯场为将此类结构化潜在变异纳入HMMs提供了一个极具吸引力的构建模块。通过随机偏微分方程(SPDE)方法,已发展出针对高斯场的快速推断方法。得益于其稀疏表示特性,这些方法能够很好地与基于自动微分和拉普拉斯近似的随机效应模型新型频率学派估计方法相结合。要实现高维扩展,需要借助(R)TMB等工具来利用关于潜在变量的海森矩阵的稀疏性——这一性质为SPDE场所满足,但被HMM似然函数所违背。我们提出一种改进的前向算法来计算HMM似然函数,从而在海森矩阵中构建稀疏性,最终实现快速可扩展的推断。我们通过仿真实验以及两个案例研究(探索恒星耀斑的检测与狮子运动建模)证明了该方法的实际可行性与实用价值。

0
下载
关闭预览

相关内容

【博士论文】高效且有效的基础大型多模态模型学习
专知会员服务
40+阅读 · 2024年10月21日
【ICML2022】可扩展深度高斯马尔可夫随机场
专知会员服务
22+阅读 · 2022年6月27日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
不用数学讲清马尔可夫链蒙特卡洛方法?
算法与数学之美
16+阅读 · 2018年8月8日
概率图模型体系:HMM、MEMM、CRF
机器学习研究会
30+阅读 · 2018年2月10日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月18日
VIP会员
最新内容
美/以-伊战争:停火与后续情景与影响分析
专知会员服务
1+阅读 · 4月11日
美国-以色列-伊朗战争:是否会动用地面部队?
美国协同作战飞机项目新型无人机发动机
专知会员服务
0+阅读 · 4月11日
无人机在美以伊战争中的关键启示(印度视角)
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
23+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员