Conformal prediction provides a principled framework for constructing predictive sets with finite-sample validity. While much of the focus has been on univariate response variables, existing multivariate methods either impose rigid geometric assumptions or rely on flexible but computationally expensive approaches that do not explicitly optimize prediction set volume. We propose an optimization-driven framework based on a novel loss function that directly learns minimum-volume covering sets while ensuring valid coverage. This formulation naturally induces a new nonconformity score for conformal prediction, which adapts to the residual distribution and covariates. Our approach optimizes over prediction sets defined by arbitrary norm balls, including single and multi-norm formulations. Additionally, by jointly optimizing both the predictive model and predictive uncertainty, we obtain prediction sets that are tight, informative, and computationally efficient, as demonstrated in our experiments on real-world datasets.


翻译:共形预测为构建具有有限样本有效性的预测集提供了一个原则性框架。尽管现有研究多聚焦于单变量响应变量,但现有的多变量方法要么施加严格的几何假设,要么依赖灵活但计算成本高昂的方法,这些方法并未显式优化预测集体积。我们提出了一种基于新颖损失函数的优化驱动框架,该损失函数直接学习最小体积覆盖集,同时确保有效覆盖。这种公式自然为共形预测引入了一种新的非一致性得分,该得分可适应残差分布和协变量。我们的方法在由任意范数球定义的预测集上进行优化,包括单范数和多范数形式。此外,通过联合优化预测模型和预测不确定性,我们获得了紧致、信息丰富且计算高效的预测集,这一点在真实世界数据集上的实验中得到了验证。

0
下载
关闭预览

相关内容

【新书】共形预测的理论基础,179页pdf
专知会员服务
46+阅读 · 2024年11月20日
【MIT博士论文】高效可靠深度学习的共形方法,213页pdf
专知会员服务
42+阅读 · 2023年11月12日
专知会员服务
26+阅读 · 2021年5月23日
常用的模型集成方法介绍:bagging、boosting 、stacking
回归预测&时间序列预测
GBASE数据工程部数据团队
44+阅读 · 2017年5月17日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
0+阅读 · 3月27日
VIP会员
相关主题
最新内容
认知战与交战性质的改变:神经战略视角
专知会员服务
5+阅读 · 5月8日
人工智能如何变革军事C5ISR作战
专知会员服务
12+阅读 · 5月8日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员