Generative AI model outputs have been increasingly evaluated for their (in)ability to represent non-Western cultures. We argue that these evaluations often operate through reductive ideals of representation, abstracted from how people define their own representation and neglecting the inherently interpretive and contextual nature of cultural representation. In contrast to these 'thin' evaluations, we introduce the idea of 'thick evaluations:' a more granular, situated, and discursive measurement framework for evaluating representations of social worlds in AI outputs, steeped in communities' own understandings of representation. We develop this evaluation framework through workshops in South Asia, by studying the 'thick' ways in which people interpret and assign meaning to AI-generated images of their own cultures. We introduce practices for thicker evaluations of representation that expand the understanding of representation underpinning AI evaluations and by co-constructing metrics with communities, bringing measurement in line with the experiences of communities on the ground.


翻译:生成式人工智能模型的输出结果正日益被评估其(无法)表征非西方文化的能力。我们认为,这些评估往往通过简化的表征理想进行操作,脱离了人们如何定义自身表征的方式,并忽视了文化表征固有的解释性与情境性本质。与这些“薄描式”评估相对,我们提出“厚描式评估”的理念:一种更精细、情境化且具话语性的测量框架,用于评估人工智能输出中社会世界的表征,其根基在于社群自身对表征的理解。我们通过在南亚地区开展研讨会,研究人们对人工智能生成的自身文化图像进行诠释与意义赋予的“厚描”方式,从而发展出这一评估框架。我们引入了厚描式表征评估的实践方法,通过扩展支撑人工智能评估的表征理解,并与社群共同构建度量标准,使测量更贴近在地社群的实际经验。

0
下载
关闭预览

相关内容

《人工智能:生成式AI的环境与人文影响》最新47页报告
专知会员服务
16+阅读 · 2025年7月15日
文本、视觉与语音生成的自动化评估方法综述
专知会员服务
20+阅读 · 2025年6月15日
《AI生成视频评估综述》
专知会员服务
28+阅读 · 2024年10月30日
人工智能模型中公平性追求的综述
专知会员服务
22+阅读 · 2024年3月30日
专知会员服务
36+阅读 · 2021年7月19日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
论文盘点:人脸表情识别解析
PaperWeekly
13+阅读 · 2020年7月26日
AI可解释性文献列表
专知
43+阅读 · 2019年10月7日
AAAI 2018 行为识别论文概览
极市平台
18+阅读 · 2018年3月20日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员