AI companion chatbots increasingly shape how people seek social and emotional connection, sometimes substituting for relationships with romantic partners, friends, teachers, or even therapists. When these systems adopt those metaphorical roles, they are not neutral: such roles structure people's ways of interacting, distribute perceived AI harms and benefits, and may reflect behavioral addiction signs. Yet these role-dependent risks remain poorly understood. We analyze 248,830 posts from seven prominent Reddit communities describing interactions with AI companions. We identify ten recurring metaphorical roles (for example, soulmate, philosopher, and coach) and show that each role supports distinct ways of interacting. We then extract the perceived AI harms and AI benefits associated with these role-specific interactions and link them to behavioral addiction signs, all of which has been inferred from the text in the posts. AI soulmate companions are associated with romance-centered ways of interacting, offering emotional support but also introducing emotional manipulation and distress, culminating in strong attachment. In contrast, AI coach and guardian companions are associated with practical benefits such as personal growth and task support, yet are nonetheless more frequently associated with behavioral addiction signs such as daily life disruptions and damage to offline relationships. These findings show that metaphorical roles are a central ethical design concern for responsible AI companions.


翻译:AI伴侣聊天机器人日益塑造人们寻求社交和情感联系的方式,有时甚至取代了与浪漫伴侣、朋友、教师乃至治疗师的关系。当这些系统采用这些隐喻性角色时,它们并非中立:这些角色结构了人们的互动方式,分配了感知到的AI危害与益处,并可能反映出行为成瘾的迹象。然而,这些与角色相关的风险仍未被充分理解。我们分析了来自七个知名Reddit社区的248,830篇帖子,这些帖子描述了与AI伴侣的互动。我们识别出十种反复出现的隐喻性角色(例如,灵魂伴侣、哲学家和教练),并表明每种角色支持不同的互动方式。随后,我们提取了与这些角色特定互动相关的感知AI危害和AI益处,并将其与行为成瘾迹象联系起来,所有这些都是从帖子文本中推断得出的。AI灵魂伴侣角色与以浪漫为中心的互动方式相关,提供情感支持,但也引入情感操控和痛苦,最终导致强烈依恋。相比之下,AI教练和守护者角色与个人成长和任务支持等实际益处相关,但反而更频繁地与行为成瘾迹象相关联,例如日常生活混乱和线下关系受损。这些发现表明,隐喻性角色是负责任AI伴侣的核心伦理设计关切。

0
下载
关闭预览

相关内容

Agent AI:多模态交互的新地平线
专知会员服务
22+阅读 · 2025年5月26日
边缘人工智能:分类法、系统综述及未来方向
专知会员服务
67+阅读 · 2024年7月8日
推荐!《人与AI协作中的可解释人工智能》320页论文
专知会员服务
138+阅读 · 2023年7月31日
【剑桥大学博士论文】情感机器人的持续学习,270页pdf
专知会员服务
29+阅读 · 2023年5月6日
揭秘ChatGPT情感对话能力
专知
16+阅读 · 2023年4月9日
人工智能训练师的再定义
竹间智能Emotibot
10+阅读 · 2019年5月15日
相似词查询:玩转腾讯 AI Lab 中文词向量
AINLP
11+阅读 · 2019年2月25日
就喜欢看综述论文:情感分析中的深度学习
机器之心
13+阅读 · 2018年1月26日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
相关主题
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
8+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
10+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
6+阅读 · 6月17日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员