This position paper examines a paradox encountered in UX research practice: a situation where real human participants delivered less authentic insights than AI personas might have, due to context-induced biases. We share our experience developing research-based AI personas using OpenAI's custom GPT builder and conducting a design thinking workshop with high-net-worth banking clients. The workshop setting, including a luxury hotel, present portfolio managers, and hospitality dynamics, introduced biases that compromised the feedback. We propose that AI personas offer an underexplored opportunity to mitigate certain human limitations in user research, and call for frameworks that help teams recognize when traditional research contexts introduce biases that AI personas might help avoid.


翻译:本文探讨了用户体验研究实践中遇到的一个悖论:即因情境引发的偏见,真实人类参与者可能比AI人格提供的洞察更缺乏真实性。我们分享了使用OpenAI的定制GPT构建工具开发基于研究的AI人格的经验,并与高净值银行客户共同开展了设计思维工作坊。工作坊环境——包括豪华酒店、投资组合经理的在场以及接待动态——引入了损害反馈质量的偏见。我们认为,AI人格提供了尚未充分探索的机会,可缓解用户研究中特定人类局限性,并呼吁建立相关框架,帮助团队识别传统研究情境何时引入AI人格可能规避的偏见。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
《在单智能体与多智能体AI系统中融入人类合理性》100页
人工智能军事决策支持系统中的算法偏见问题
专知会员服务
34+阅读 · 2024年9月11日
人工智能模型中公平性追求的综述
专知会员服务
23+阅读 · 2024年3月30日
推荐!《人与AI协作中的可解释人工智能》320页论文
专知会员服务
138+阅读 · 2023年7月31日
数学是普通程序员入门人工智能的最大障碍
算法与数据结构
12+阅读 · 2018年7月27日
群体智能:新一代人工智能的重要方向
走向智能论坛
12+阅读 · 2017年8月16日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
VIP会员
最新内容
美国从乌克兰无人机战争中学习经验
专知会员服务
1+阅读 · 今天15:03
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
0+阅读 · 今天14:31
学习数据的几何:形状空间分析数学综述
专知会员服务
8+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
10+阅读 · 6月17日
相关基金
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员