User simulation is an emerging interdisciplinary topic with multiple critical applications in the era of Generative AI. It involves creating an intelligent agent that mimics the actions of a human user interacting with an AI system, enabling researchers to model and analyze user behaviour, generate synthetic data for training, and evaluate interactive AI systems in a controlled and reproducible manner. Because of its broad scope, research on this topic currently remains scattered across artificial intelligence, human-computer interaction, information science, computational social science, and psychology. To address this fragmented landscape of current research, this article presents a foundational synthesis. We highlight the paradigm shift from traditional predictive models to modern generative approaches, and explicitly frame critical ethical considerations -- demonstrating how controlled simulation serves not merely as a risk vector for bias, but as a powerful, proactive tool to ensure fair representation and system safety. Furthermore, we establish the theoretical connection between user simulation and the pursuit of Artificial General Intelligence, arguing that realistic simulators are indispensable catalysts for overcoming critical data and evaluation bottlenecks and optimizing personalization. Ultimately, we propose a practical, self-sustaining innovation ecosystem bridging academia and industry to advance this increasingly important technology.


翻译:用户模拟是生成式AI时代一个新兴的跨学科课题,具有多种关键应用。它涉及创建能够模拟人类用户与AI系统交互行为的智能代理,使研究人员能够以可控且可重现的方式建模和分析用户行为、生成用于训练的合成数据,以及评估交互式AI系统。由于其范围广泛,目前该课题的研究仍分散在人工智能、人机交互、信息科学、计算社会科学和心理学等多个领域。为应对当前研究领域的碎片化现状,本文提出了一项基础性综合研究。我们强调了从传统预测模型向现代生成式方法的范式转变,并明确阐述了关键的伦理考量——展示受控模拟不仅作为风险的偏见向量,更是一种确保公平表征和系统安全的前瞻性强大工具。此外,我们建立了用户模拟与追求通用人工智能之间的理论联系,论证了逼真的模拟器是克服关键数据与评估瓶颈、优化个性化不可或缺的催化剂。最后,我们提出了一个连接学术界与产业界的实用、自持续的创新生态体系,以推动这一日益重要的技术发展。

0
下载
关闭预览

相关内容

【综述】 基于大语言模型的对话用户模拟综述
AI 智能体系统:体系架构、应用场景及评估范式
【新书】生成式人工智能:概念与应用
专知会员服务
47+阅读 · 2025年3月18日
《生成式人工智能模型:机遇与风险》
专知会员服务
79+阅读 · 2024年4月22日
CMU最新《生成式人工智能》课程,涵盖大模型最新技术
专知会员服务
101+阅读 · 2024年4月4日
用户画像基础
DataFunTalk
12+阅读 · 2020年8月1日
用户画像技术及方法论
DataFunTalk
13+阅读 · 2020年5月27日
用户研究:如何做用户画像分析
产品100干货速递
46+阅读 · 2019年5月9日
【知识图谱】基于知识图谱的用户画像技术
产业智能官
103+阅读 · 2019年1月9日
【大数据】如何用大数据构建精准用户画像?
产业智能官
12+阅读 · 2017年9月21日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
VIP会员
相关主题
最新内容
ICML 2026 | CFPO:用反事实策略优化提升多模态推理
专知会员服务
1+阅读 · 今天14:45
综述 | 世界动作模型:少做梦,多行动
专知会员服务
1+阅读 · 今天14:43
美以伊冲突:无人机与人工智能的运用
专知会员服务
3+阅读 · 今天14:31
《特种部队在透明战场中的生存力》最新报告
专知会员服务
2+阅读 · 今天14:11
《人工智能生成的零日漏洞:对未来作战的影响》
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
8+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
相关基金
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员