The deployment of NLP systems has raised concerns about harms they might produce, including representational harms. Recent literature has begun to conceptualize and measure one such harm, the harm of erasure. Nevertheless, the field lacks a clear and cohesive conceptual foundation for identifying and measuring erasure. Existing conceptualizations of erasure are often broad -- making it difficult to identify what is needed to establish and measure erasure -- or else specific to particular settings -- facilitating measurement for those settings but potentially challenging to adapt to other settings. To address this gap, we develop and propose a structured definition of erasure that clarifies what components are necessary for establishing whether erasure has occurred, which practitioners need to explicitly articulate and operationalize in order to measure erasure.


翻译:自然语言处理系统的部署引发了对其可能产生的伤害的担忧,包括表征性伤害。近期文献开始概念化并衡量其中一种伤害,即消除性伤害。然而,该领域在识别和衡量消除性伤害方面缺乏清晰且连贯的概念基础。现有的消除性伤害概念化通常较为宽泛——这使得难以确定建立和衡量消除性伤害所需的内容——或者特定于特定情境——便于在这些情境下进行衡量,但可能难以适应其他情境。为填补这一空白,我们开发并提出了一种结构化的消除性伤害定义,明确了确立是否发生消除性伤害所必需的构成要素,这些要素需要从业者明确阐述和操作化,以便衡量消除性伤害。

0
下载
关闭预览

相关内容

自然语言处理中的探针可解释方法综述
专知会员服务
27+阅读 · 2024年8月1日
自然语言处理中的文本表示研究
专知会员服务
58+阅读 · 2022年1月10日
专知会员服务
81+阅读 · 2021年5月30日
【新书】自然语言处理表示学习技术,349页pdf,清华大学
专知会员服务
174+阅读 · 2020年7月11日
自然语言处理NLP之旅(NLP文章/代码集锦)
自然语言处理中的语言模型预训练方法
PaperWeekly
14+阅读 · 2018年10月21日
自然语言处理NLP快速入门
专知
20+阅读 · 2018年10月8日
自然语言处理(NLP)知识结构总结
AI100
51+阅读 · 2018年8月17日
自然语言处理(NLP)数据集整理
论智
20+阅读 · 2018年4月8日
从语言学到深度学习NLP,一文概述自然语言处理
人工智能学家
13+阅读 · 2018年1月28日
【NLP】十分钟快览自然语言处理学习总结
专知
17+阅读 · 2017年11月21日
【推荐】自然语言处理(NLP)指南
机器学习研究会
35+阅读 · 2017年11月17日
Natural 自然语言处理(NLP)「全解析」
人工智能学家
14+阅读 · 2017年9月23日
NLP(自然语言处理)扫盲
大数据和云计算技术
20+阅读 · 2017年7月9日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月2日
Arxiv
12+阅读 · 2023年5月22日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
6+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
4+阅读 · 6月17日
相关资讯
自然语言处理NLP之旅(NLP文章/代码集锦)
自然语言处理中的语言模型预训练方法
PaperWeekly
14+阅读 · 2018年10月21日
自然语言处理NLP快速入门
专知
20+阅读 · 2018年10月8日
自然语言处理(NLP)知识结构总结
AI100
51+阅读 · 2018年8月17日
自然语言处理(NLP)数据集整理
论智
20+阅读 · 2018年4月8日
从语言学到深度学习NLP,一文概述自然语言处理
人工智能学家
13+阅读 · 2018年1月28日
【NLP】十分钟快览自然语言处理学习总结
专知
17+阅读 · 2017年11月21日
【推荐】自然语言处理(NLP)指南
机器学习研究会
35+阅读 · 2017年11月17日
Natural 自然语言处理(NLP)「全解析」
人工智能学家
14+阅读 · 2017年9月23日
NLP(自然语言处理)扫盲
大数据和云计算技术
20+阅读 · 2017年7月9日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员