While the idea of equal opportunity enjoys a broad consensus, many disagree about what it means for opportunities to be equal. The algorithmic fairness community often relies on formal approaches to quantitatively determine if opportunities are allocated equally. A more structural approach put forth by Joseph Fishkin focuses on the wider network of decisions that determine which opportunities are allocated to whom. In this so-called opportunity structure, decision points represent bottlenecks that are often chained together so that the output of one decision is an input to the next. By evaluating the severity and legitimacy of these bottlenecks, Fishkin offers a qualitative framework to assess whether equal opportunity is infringed upon in a structural way. We adopt this structural viewpoint and use it to reframe many interdisciplinary discussions about equal opportunity in systems of algorithmic decision-making. Drawing on examples from education, healthcare, and criminal justice, we recommend prioritizing regulatory and design-based interventions that alleviate severe bottlenecks in order to help expand access to opportunities in a pluralistic way.


翻译:尽管机会均等的理念获得了广泛共识,但对其内涵的理解仍存在诸多分歧。算法公平领域通常依赖形式化方法来定量判断机会是否被公平分配。约瑟夫·菲什金提出了一种更具结构性的路径,聚焦于决定机会分配对象的决策网络。在这种所谓的"机会结构"中,决策节点代表着常被串联的瓶颈环节——前一个决策的输出成为后一个决策的输入。通过评估这些瓶颈的严峻性与合法性,菲什金构建了一个定性分析框架,用以判断机会均等是否在结构性层面受到侵害。我们采纳这一结构性视角,并以此重新审视算法决策系统中关于机会均等的跨学科讨论。基于教育、医疗及刑事司法领域的案例,我们建议优先采用缓解关键瓶颈的监管与设计干预措施,以通过多元主义路径帮助扩大机会获取渠道。

0
下载
关闭预览

相关内容

ENJOY,一个“懂吃、会选、有格调”的美食电商平台——• 一触即享:为你精选优质餐厅定制独家菜单;• 可见可购:优质生活方式快递良品一网打尽;• 精致美丽:专业美食摄影师呈现的高清美图;• 限时优惠:覆盖全品类的专享折扣每日更新;岁月蹉跎,不如好好吃上一顿。ENJOY NOW!ENJOY 致力于解决“如何吃的更好”。
专知会员服务
52+阅读 · 2020年12月14日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
164+阅读 · 2019年10月12日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
[综述]深度学习下的场景文本检测与识别
专知会员服务
78+阅读 · 2019年10月10日
机器学习入门的经验与建议
专知会员服务
94+阅读 · 2019年10月10日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
105+阅读 · 2019年10月9日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
41+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
vae 相关论文 表示学习 1
CreateAMind
12+阅读 · 2018年9月6日
Capsule Networks解析
机器学习研究会
11+阅读 · 2017年11月12日
【推荐】YOLO实时目标检测(6fps)
机器学习研究会
20+阅读 · 2017年11月5日
【论文】图上的表示学习综述
机器学习研究会
15+阅读 · 2017年9月24日
【推荐】SVM实例教程
机器学习研究会
17+阅读 · 2017年8月26日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年7月13日
Arxiv
0+阅读 · 2023年7月13日
Arxiv
0+阅读 · 2023年7月12日
Arxiv
0+阅读 · 2023年7月11日
Arxiv
29+阅读 · 2023年2月10日
Arxiv
70+阅读 · 2022年6月30日
Arxiv
15+阅读 · 2020年12月17日
VIP会员
最新内容
综述 | 世界动作模型:少做梦,多行动
专知会员服务
4+阅读 · 6月23日
美以伊冲突:无人机与人工智能的运用
专知会员服务
7+阅读 · 6月23日
《特种部队在透明战场中的生存力》最新报告
专知会员服务
4+阅读 · 6月23日
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
8+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
相关VIP内容
专知会员服务
52+阅读 · 2020年12月14日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
164+阅读 · 2019年10月12日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
[综述]深度学习下的场景文本检测与识别
专知会员服务
78+阅读 · 2019年10月10日
机器学习入门的经验与建议
专知会员服务
94+阅读 · 2019年10月10日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
105+阅读 · 2019年10月9日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
41+阅读 · 2019年10月9日
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
44+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
vae 相关论文 表示学习 1
CreateAMind
12+阅读 · 2018年9月6日
Capsule Networks解析
机器学习研究会
11+阅读 · 2017年11月12日
【推荐】YOLO实时目标检测(6fps)
机器学习研究会
20+阅读 · 2017年11月5日
【论文】图上的表示学习综述
机器学习研究会
15+阅读 · 2017年9月24日
【推荐】SVM实例教程
机器学习研究会
17+阅读 · 2017年8月26日
相关论文
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员