Over-aligning image generation models to a generalized aesthetic preference conflicts with user intent, particularly when "anti-aesthetic" outputs are requested for artistic or critical purposes. This adherence prioritizes developer-centered values, compromising user autonomy and aesthetic pluralism. We test this bias by constructing a wide-spectrum aesthetics dataset and evaluating state-of-the-art generation and reward models. This position paper finds that aesthetic-aligned generation models frequently default to conventionally beautiful outputs, failing to respect instructions for low-quality or negative imagery. Crucially, reward models penalize anti-aesthetic images even when they perfectly match the explicit user prompt. We confirm this systemic bias through image-to-image editing and evaluation against real abstract artworks.


翻译:将图像生成模型过度对齐于普适审美偏好会与用户意图产生冲突,尤其是在为艺术或批判目的请求"反审美"输出时。这种对齐机制优先考虑以开发者为中心的价值观,损害了用户自主性与审美多元性。我们通过构建广谱审美数据集并评估最先进的生成模型与奖励模型来检验这种偏差。本立场论文发现,审美对齐的生成模型往往默认输出符合传统审美的内容,无法响应关于低质量或负面图像的生成指令。关键在于,即使反审美图像完全符合用户明确提示,奖励模型仍会对其施加惩罚。我们通过图像到图像编辑任务以及与真实抽象艺术作品的对比评估,证实了这种系统性偏差的存在。

0
下载
关闭预览

相关内容

多样化偏好优化
专知会员服务
12+阅读 · 2025年2月3日
《大模型对齐方法》最新综述
专知会员服务
85+阅读 · 2024年3月8日
用户画像基础
DataFunTalk
12+阅读 · 2020年8月1日
专家报告 | 个性化图像美学评价
中国图象图形学报
14+阅读 · 2020年7月15日
白话attention综述(上)
AINLP
12+阅读 · 2019年12月14日
总结-空洞卷积(Dilated/Atrous Convolution)
极市平台
41+阅读 · 2019年2月25日
超像素、语义分割、实例分割、全景分割 傻傻分不清?
计算机视觉life
19+阅读 · 2018年11月27日
图像美学质量评价技术发展趋势
科技导报
19+阅读 · 2018年6月25日
图像风格迁移(Neural Style)简史
算法与数学之美
21+阅读 · 2018年2月4日
看完后,别再说自己不懂用户画像了
R语言中文社区
15+阅读 · 2017年8月28日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月2日
VIP会员
相关资讯
用户画像基础
DataFunTalk
12+阅读 · 2020年8月1日
专家报告 | 个性化图像美学评价
中国图象图形学报
14+阅读 · 2020年7月15日
白话attention综述(上)
AINLP
12+阅读 · 2019年12月14日
总结-空洞卷积(Dilated/Atrous Convolution)
极市平台
41+阅读 · 2019年2月25日
超像素、语义分割、实例分割、全景分割 傻傻分不清?
计算机视觉life
19+阅读 · 2018年11月27日
图像美学质量评价技术发展趋势
科技导报
19+阅读 · 2018年6月25日
图像风格迁移(Neural Style)简史
算法与数学之美
21+阅读 · 2018年2月4日
看完后,别再说自己不懂用户画像了
R语言中文社区
15+阅读 · 2017年8月28日
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员