Actionable recourse studies whether individuals can modify feasible features to overturn unfavorable outcomes produced by AI-assisted decision-support systems. However, many such systems operate in competitive settings, such as admission or hiring, where only a fraction of candidates can succeed. A fundamental question arises: what happens when actionable recourse is available to everyone in a competitive environment? This study proposes a framework that models recourse as a strategic interaction among candidates under a risk-based selection rule. Rejected individuals exert effort to improve actionable features along directions implied by the decision rule, while the success benchmark evolves endogenously as many candidates adjust simultaneously. This creates endogenous selection, in which both the decision rule and the selection threshold are determined by the population's current feature state. This interaction generates a closed-loop dynamical system linking candidate selection and strategic recourse. We show that the initially selected candidates determine both the benchmark of success and the direction of improvement, thereby amplifying initial disparities and producing persistent performance gaps across the population.


翻译:可操作申诉研究个体能否通过修改可行特征来推翻人工智能辅助决策系统产生的不利结果。然而,许多此类系统运行在竞争环境中(如招生或招聘),仅部分候选人能够成功。一个根本性问题随之产生:当竞争环境中所有人都能使用可操作申诉时会发生什么?本研究提出一个框架,将可操作申诉建模为风险导向选择规则下候选人之间的战略互动。被拒绝的个体沿决策规则暗示的方向努力改进可操作特征,而成功基准则随多人同时调整而内生化。这形成了内生选择机制——决策规则与选择阈值均由群体当前特征状态共同决定。该互动产生了一个连接候选人选择与战略申诉的闭环动态系统。研究表明,初始选中的候选人同时决定了成功基准和改进方向,从而放大初始差异并在群体中产生持续的表现差距。

0
下载
关闭预览

相关内容

清华大学崔鹏:可信智能决策框架及实践
专知会员服务
76+阅读 · 2023年5月1日
可信机器学习的公平性综述
专知会员服务
70+阅读 · 2021年2月23日
「强化学习可解释性」最新2022综述
专知
12+阅读 · 2022年1月16日
最新《可解释人工智能》概述,50页ppt
专知
12+阅读 · 2021年3月17日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 3月24日
Arxiv
0+阅读 · 3月20日
VIP会员
相关主题
最新内容
无人机已改变战场,但并未解决指挥问题
专知会员服务
5+阅读 · 8月14日
驱动军事决策变革的顶尖人工智能指挥系统
专知会员服务
11+阅读 · 8月11日
非对称防御中的自组织临界性:俄乌战争
专知会员服务
10+阅读 · 8月10日
《战争中的大语言模型监管》
专知会员服务
16+阅读 · 8月10日
《边缘计算关键技术分析及美军作战实践应用》
相关基金
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员