Combining forecasts from multiple experts often yields more accurate results than relying on a single expert. In this paper, we introduce a novel regularized ensemble method that extends the traditional linear opinion pool by leveraging both current forecasts and historical performances to set the weights. Unlike existing approaches that rely only on either the current forecasts or past accuracy, our method accounts for both sources simultaneously. It learns weights by minimizing the variance of the combined forecast (or its transformed version) while incorporating a regularization term informed by historical performances. We also show that this approach has a Bayesian interpretation. Different distributional assumptions within this Bayesian framework yield different functional forms for the variance component and the regularization term, adapting the method to various scenarios. In empirical studies on Walmart sales and macroeconomic forecasting, our ensemble outperforms leading benchmark models both when experts' full forecasting histories are available and when experts enter and exit over time, resulting in incomplete historical records. Throughout, we provide illustrative examples that show how the optimal weights are determined and, based on the empirical results, we discuss where the framework's strengths lie and when experts' past versus current forecasts are more informative.


翻译:整合多位专家的预测结果通常比依赖单一专家获得更准确的预测。本文提出一种新颖的正则化集成方法,该方法通过同时利用当前预测与历史表现来设置权重,从而扩展了传统的线性意见池。与现有仅依赖当前预测或过去准确性的方法不同,我们的方法同时考虑了这两种信息源。该方法通过最小化组合预测(或其变换形式)的方差来学习权重,同时引入由历史表现信息构成的正则化项。我们还证明了该方法具有贝叶斯解释。在此贝叶斯框架下,不同的分布假设会对方差项与正则化项产生不同的函数形式,从而使方法能适应多种场景。在沃尔玛销售数据与宏观经济预测的实证研究中,无论专家拥有完整预测历史记录,还是在专家随时间动态加入与退出的不完整历史记录情况下,我们的集成方法均优于主流基准模型。通过示例,我们展示了最优权重的确定过程,并基于实证结果讨论了该框架的优势所在,以及专家历史预测与当前预测在不同情境下的信息价值。

0
下载
关闭预览

相关内容

在数学,统计学和计算机科学中,尤其是在机器学习和逆问题中,正则化是添加信息以解决不适定问题或防止过度拟合的过程。 正则化适用于不适定的优化问题中的目标函数。
从图像去噪到成像逆问题的正则化:综述
专知会员服务
13+阅读 · 2025年9月4日
基于深度学习的信息传播微观预测综述
专知会员服务
12+阅读 · 2025年5月4日
【ICML2024】基于正则化的持续学习的统计理论
专知会员服务
21+阅读 · 2024年6月11日
【2022新书】基于概率知识系统的知识集成方法,203页pdf
专知会员服务
51+阅读 · 2022年12月28日
【干货书】预测原理与实战,Forecasting: Principles & Practice
专知会员服务
96+阅读 · 2022年4月11日
【2023新书】机器学习集成方法,354页pdf
专知
40+阅读 · 2023年4月11日
【学界】虚拟对抗训练:一种新颖的半监督学习正则化方法
GAN生成式对抗网络
10+阅读 · 2019年6月9日
常用的模型集成方法介绍:bagging、boosting 、stacking
回归预测&时间序列预测
GBASE数据工程部数据团队
44+阅读 · 2017年5月17日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员