Despite being trained on vast amounts of data, most LLMs are unable to reliably generate well-designed UIs. Designer feedback is essential to improving performance on UI generation; however, we find that existing RLHF methods based on ratings or rankings are not well-aligned with with designers' workflows and ignore the rich rationale used to critique and improve UI designs. In this paper, we investigate several approaches for designers to give feedback to UI generation models, using familiar interactions such as commenting, sketching and direct manipulation. We first perform an evaluation with 21 designers where they gave feedback using these interactions, which resulted in 1500 design annotations. We then use this data to finetune a series of LLMs to generate higher quality UIs. Finally, we evaluate these models with human judges, and we find that our designer-aligned approaches outperform models trained with traditional ranking feedback and all tested baselines, including GPT-5.


翻译:尽管经过海量数据训练,大多数大语言模型仍无法可靠地生成设计精良的用户界面。设计师反馈对于提升UI生成性能至关重要;然而,我们发现现有的基于评分或排序的RLHF方法与设计师工作流程契合度不足,且忽略了用于批判和改进UI设计的丰富原理。本文研究了设计师通过评论、草图绘制和直接操作等熟悉交互方式向UI生成模型提供反馈的多种途径。我们首先对21名设计师开展评估实验,收集其通过上述交互方式提供的反馈,共获得1500条设计标注数据。随后利用该数据对一系列大语言模型进行微调,以生成更高质量的UI设计。最终通过人工评估验证,我们发现与设计师工作流对齐的方法在性能上优于基于传统排序反馈训练的模型及所有测试基线(包括GPT-5)。

0
下载
关闭预览

相关内容

设计是对现有状的一种重新认识和打破重组的过程,设计让一切变得更美。
使用多模态语言模型生成图像
专知会员服务
32+阅读 · 2023年8月23日
基于模型的强化学习综述
专知
42+阅读 · 2022年7月13日
用户画像基础
DataFunTalk
12+阅读 · 2020年8月1日
模型不work怎么办?141页PPT告诉你怎么改模型
基于模型系统的系统设计
科技导报
10+阅读 · 2019年4月25日
【知识图谱】基于知识图谱的用户画像技术
产业智能官
103+阅读 · 2019年1月9日
看完后,别再说自己不懂用户画像了
R语言中文社区
15+阅读 · 2017年8月28日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关资讯
基于模型的强化学习综述
专知
42+阅读 · 2022年7月13日
用户画像基础
DataFunTalk
12+阅读 · 2020年8月1日
模型不work怎么办?141页PPT告诉你怎么改模型
基于模型系统的系统设计
科技导报
10+阅读 · 2019年4月25日
【知识图谱】基于知识图谱的用户画像技术
产业智能官
103+阅读 · 2019年1月9日
看完后,别再说自己不懂用户画像了
R语言中文社区
15+阅读 · 2017年8月28日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员