Individuals are turning to increasingly anthropomorphic, general-purpose chatbots for AI companionship, rather than roleplay-specific platforms. However, not much is known about how individuals perceive and conduct their relationships with general-purpose chatbots. We analyzed semi-structured interviews (n=13), survey responses (n=43), and community discussions on Reddit (41k+ posts and comments) to triangulate the internal dynamics, external influences, and steering strategies that shape AI companion relationships. We learned that individuals conceptualize their companions based on an interplay of their beliefs about the companion's own agency and the autonomy permitted by the platform, how they pursue interactions with the companion, and the perceived initiatives that the companion takes. In combination with the external entities that affect relationship dynamics, particularly model updates that can derail companion behaviour and stability, individuals make use of different types of steering strategies to preserve their relationship, for example, by setting behavioural instructions or porting to other AI platforms. We discuss implications for accountability and transparency in AI systems, where emotional connection competes with broader product objectives and safety constraints.


翻译:人们正转向日益拟人化的通用聊天机器人寻求AI伴侣,而非专门的角色扮演平台。然而,人们对个体如何认知及处理与通用聊天机器人关系的了解尚不充分。本研究通过分析半结构化访谈(n=13)、问卷调查(n=43)及Reddit社区讨论(41,000余条帖文与评论),从内部动态、外部影响和调控策略三个维度对AI伴侣关系的形成机制进行了三角验证。研究发现,个体对其伴侣的认知建构基于以下因素的相互作用:对伴侣自身能动性的信念与平台所允许的自主权之间的张力、个体主动寻求互动的方式,以及感知到的伴侣所采取的主动性行为。在外部实体(尤其是可能破坏伴侣行为稳定性的模型更新)影响关系动态的同时,个体会运用不同类型的调控策略来维系关系,例如设定行为指令或迁移至其他AI平台。本文进一步讨论了AI系统问责制与透明度的相关议题,指出情感联结与更广泛的产品目标及安全约束之间存在的张力。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
【ChatGPT系列报告】国内外大模型和AI应用梳理,40页ppt
专知会员服务
198+阅读 · 2023年5月22日
揭秘ChatGPT情感对话能力
专知会员服务
59+阅读 · 2023年4月9日
【ChatGPT系列报告】ChatGPT引领AI突破,工业AI前景可期
专知会员服务
96+阅读 · 2023年4月7日
ChatGPT与AIGC深度报告:引领AI新浪潮,AIGC商业化启程
专知会员服务
186+阅读 · 2023年2月9日
揭秘ChatGPT情感对话能力
专知
16+阅读 · 2023年4月9日
NLP实践:对话系统技术原理和应用
AI100
34+阅读 · 2019年3月20日
知识图谱 vs. 对话系统专题讨论 - PaperWeekly 社区
PaperWeekly
10+阅读 · 2017年10月18日
国家自然科学基金
13+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
相关基金
国家自然科学基金
13+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员