Performative prediction studies feedback loops that arise when predictive models are deployed in consequential domains. In these settings, deploying a model can change the population whose patterns the model aims to predict, inducing a distribution shift that is endogenous to the learning system. This perspective departs from classical treatments of distribution shift, where shifts are typically modeled as exogenous changes in the data-generating process. Yet, in practice, distribution shift is rarely one or the other. Predictive models may influence future data through the decisions they support, while the world itself continues to drift for reasons beyond the learner's control. We study partially performative prediction, a framework that captures both endogenous and exogenous sources of distribution shift. The framework generalizes performative prediction by allowing the data distribution to evolve both in response to the deployed model and according to an external, time-varying process. We extend the central notions of performative stability and performative optimality to this setting by defining their online analogues that track the evolving partially performative environment. We analyze practical learning heuristics, including repeated retraining, and characterize when they successfully adapt to partially performative environments.


翻译:表现性预测研究当预测模型部署于影响深远领域时产生的反馈循环。在这些情境中,部署模型可能改变模型旨在预测的群体格局,引发内生性分布偏移,这种偏移源于学习系统本身。这一视角区别于经典的分布偏移处理方法——后者通常将偏移建模为数据生成过程中外生性的变化。然而在实践中,分布偏移很少单纯属于其中一种。预测模型可能通过其支持的决策影响未来数据,而世界本身也因学习系统无法控制的原因持续漂移。我们研究"部分表现性预测"这一框架,该框架同时捕捉分布偏移的内生性与外生性来源。该框架通过允许数据分布既响应部署模型又根据外部时变过程演化,从而泛化了表现性预测。我们将表现性稳定性和表现性最优性等核心概念扩展到这一设定,通过定义其在线对应物来追踪演化中的部分表现性环境。我们分析包括重复再训练在内的实用学习启发式方法,并刻画其在部分表现性环境中成功适应的条件。

0
下载
关闭预览

相关内容

用于多模态对齐的基础模型表征潜力:一项综述
专知会员服务
18+阅读 · 2025年10月8日
《陆军实施预测性维护》
专知会员服务
22+阅读 · 2024年12月11日
《分布外泛化评估》综述
专知会员服务
44+阅读 · 2024年3月6日
【NeurIPS2021】学习用于分布外预测的因果语义表示
专知会员服务
18+阅读 · 2021年11月19日
专知会员服务
32+阅读 · 2021年8月7日
「知识增强预训练语言模型」最新研究综述
专知
18+阅读 · 2022年11月18日
【KDD2020】动态知识图谱的多事件预测
专知
88+阅读 · 2020年8月31日
一大批中文(BERT等)预训练模型等你认领!
PaperWeekly
15+阅读 · 2019年6月25日
BERT-预训练的强大
微信AI
62+阅读 · 2019年3月7日
15款免费预测分析软件!收藏好,别丢了!
七月在线实验室
11+阅读 · 2018年2月27日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
回归预测&时间序列预测
GBASE数据工程部数据团队
44+阅读 · 2017年5月17日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月8日
Arxiv
0+阅读 · 5月27日
Arxiv
0+阅读 · 5月27日
VIP会员
最新内容
面向2027年及未来的海军情报改革
专知会员服务
3+阅读 · 8月5日
《无人机蜂群:释放人类-蜂群编队的潜能》
专知会员服务
6+阅读 · 8月5日
《战略战术化:一项综合性述评》
专知会员服务
5+阅读 · 8月5日
相关VIP内容
相关资讯
「知识增强预训练语言模型」最新研究综述
专知
18+阅读 · 2022年11月18日
【KDD2020】动态知识图谱的多事件预测
专知
88+阅读 · 2020年8月31日
一大批中文(BERT等)预训练模型等你认领!
PaperWeekly
15+阅读 · 2019年6月25日
BERT-预训练的强大
微信AI
62+阅读 · 2019年3月7日
15款免费预测分析软件!收藏好,别丢了!
七月在线实验室
11+阅读 · 2018年2月27日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
回归预测&时间序列预测
GBASE数据工程部数据团队
44+阅读 · 2017年5月17日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员