The usual definitions of algorithmic fairness focus on population-level statistics, such as demographic parity or equal opportunity. However, in many social or economic contexts, fairness is not perceived globally, but locally, through an individual's peer network and comparisons. We propose a theoretical model of perceived fairness networks, in which each individual's sense of discrimination depends on the local topology of interactions. We show that even if a decision rule satisfies standard criteria of fairness, perceived discrimination can persist or even increase in the presence of homophily or assortative mixing. We propose a formalism for the concept of fairness perception, linking network structure, local observation, and social perception. Analytical and simulation results highlight how network topology affects the divergence between objective fairness and perceived fairness, with implications for algorithmic governance and applications in finance and collaborative insurance.


翻译:传统的算法公平性定义通常关注群体层面的统计指标,例如人口统计均等或机会均等。然而,在许多社会或经济情境中,公平性并非被全局感知,而是通过个体的同侪网络和比较在局部被感知。我们提出了一个感知公平性网络的理论模型,其中个体的歧视感取决于交互的局部拓扑结构。我们证明,即使某个决策规则满足标准的公平性准则,在同质性或同类混合存在的情况下,感知到的歧视仍可能持续甚至加剧。我们为公平性感知的概念提出了一种形式化框架,将网络结构、局部观察与社会感知联系起来。分析和仿真结果揭示了网络拓扑如何影响客观公平性与感知公平性之间的差异,这对算法治理以及在金融和协作保险等领域的应用具有重要启示。

0
下载
关闭预览

相关内容

计算机视觉中的公平性与偏差缓解:综述
专知会员服务
19+阅读 · 2024年8月7日
可信机器学习的公平性综述
专知会员服务
69+阅读 · 2021年2月23日
专知会员服务
30+阅读 · 2021年2月21日
用深度学习揭示数据的因果关系
专知
28+阅读 · 2019年5月18日
情感计算综述
人工智能学家
34+阅读 · 2019年4月6日
网络表示学习介绍
人工智能前沿讲习班
18+阅读 · 2018年11月26日
网络安全态势感知
计算机与网络安全
26+阅读 · 2018年10月14日
Representation Learning on Network 网络表示学习
全球人工智能
10+阅读 · 2017年10月19日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月16日
Arxiv
0+阅读 · 2月8日
Arxiv
0+阅读 · 1月13日
VIP会员
相关资讯
用深度学习揭示数据的因果关系
专知
28+阅读 · 2019年5月18日
情感计算综述
人工智能学家
34+阅读 · 2019年4月6日
网络表示学习介绍
人工智能前沿讲习班
18+阅读 · 2018年11月26日
网络安全态势感知
计算机与网络安全
26+阅读 · 2018年10月14日
Representation Learning on Network 网络表示学习
全球人工智能
10+阅读 · 2017年10月19日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员