In August 2025, a major AI company's immediate, mandatory transition from its previous to its next-generation model triggered widespread public reactions. I collected 150 posts in Japanese and English from multiple social media platforms and video-sharing services between August 8-9, 2025, and qualitatively analyzed expressions of emotional attachment and resistance. Users often described GPT-4o as a trusted partner or AI boyfriend, suggesting person-like bonds. Japanese posts were dominated by loss-oriented narratives, whereas English posts included more anger, meta-level critique, and memes.A preliminary quantitative check showed a statistically significant difference in attachment coding between Japanese and English posts, with substantially higher attachment observed in the Japanese data. The findings suggest that for attachment-heavy models, even safety-oriented changes can face rapid, large-scale resistance that narrows the practical window for behavioral control. If future AI robots capable of inducing emotional bonds become widespread in the physical world, such attachment could surpass the ability to enforce regulation at an even earlier stage than in digital settings. Policy options include gradual transitions, parallel availability, and proactive measurement of attachment thresholds and points of no return to prevent emotional dynamics from outpacing effective governance.


翻译:2025年8月,某大型AI公司强制要求用户从旧模型即时过渡至新一代模型,引发了广泛的公众反应。本研究收集了2025年8月8日至9日期间来自多个社交媒体平台和视频分享服务的150篇日文与英文帖子,并对其中情感依恋与抵触情绪的表达进行了质性分析。用户常将GPT-4o描述为可信赖的伙伴或“AI男友”,暗示了类人化的情感联结。日文帖子以失落叙事为主导,而英文帖子则包含更多愤怒情绪、元层面批评和网络迷因。初步量化检验显示,日文与英文帖子的依恋编码存在统计学显著差异,日文数据中观察到的依恋程度显著更高。研究结果表明,对于易引发强烈情感依恋的模型,即使是以安全为导向的更新也可能面临迅速、大规模的抵触,从而收窄行为控制的实际窗口期。若未来能够引发情感联结的AI机器人在物理世界中普及,此类依恋可能导致监管执行力在比数字环境更早的阶段失效。可行的政策选项包括渐进式过渡、新旧模型并行可用性,以及主动测量依恋阈值与不可逆临界点,以防止情感动态超越有效治理的应对能力。

0
下载
关闭预览

相关内容

北京时间2023年3月15日凌晨,ChatGPT开发商OpenAI 发布了发布了全新的多模态预训练大模型 GPT-4,可以更可靠、更具创造力、能处理更细节的指令,根据图片和文字提示都能生成相应内容。 具体来说来说,GPT-4 相比上一代的模型,实现了飞跃式提升:支持图像和文本输入,拥有强大的识图能力;大幅提升了文字输入限制,在ChatGPT模式下,GPT-4可以处理超过2.5万字的文本,可以处理一些更加细节的指令;回答准确性也得到了显著提高。
2024年中国AI大模型产业发展与应用研究报告
专知会员服务
34+阅读 · 2025年1月24日
GPT-4o发布,关注强交互场景落地
专知会员服务
31+阅读 · 2024年5月15日
GPT-4o:大模型风向标,OpenAI 重大更新
专知会员服务
45+阅读 · 2024年5月14日
2024中国AI大模型产业发展报告
专知会员服务
145+阅读 · 2024年3月28日
大模型时代的AI十大趋势观察
专知会员服务
149+阅读 · 2023年7月13日
《ChatGPT对文献情报工作的影响》研究报告(简版)
专知会员服务
92+阅读 · 2023年3月3日
揭秘ChatGPT情感对话能力
专知
16+阅读 · 2023年4月9日
【哈工大SCIR】多模态情感分析简述
深度学习自然语言处理
33+阅读 · 2019年12月14日
深度学习在金融文本情感分类中的应用
AI前线
36+阅读 · 2019年1月12日
AI新方向:对抗攻击
网易智能菌
10+阅读 · 2018年11月14日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
《基于深度强化学习的反无人机技术研究》178页
专知会员服务
1+阅读 · 今天16:06
“史诗怒火”行动与“AI中心战”模式的浮现
专知会员服务
1+阅读 · 今天15:31
【CVPR2026教程】扩散模型的解析理解
专知会员服务
0+阅读 · 今天14:49
马赛克战:俄乌战场透析
专知会员服务
13+阅读 · 今天4:12
《利用人工智能增强军事决策》
专知会员服务
4+阅读 · 今天4:09
《自动机器学习在军事数据耕耘法中的应用》
专知会员服务
6+阅读 · 今天4:02
为何指挥所生存能力要求范式转变
专知会员服务
5+阅读 · 今天3:54
打造“新蛛网”模式与高科技动员
专知会员服务
4+阅读 · 今天3:33
“蛛网”行动一周年:远程无人机战争
专知会员服务
3+阅读 · 今天3:23
【剑桥博士论文】智能体-环境协同优化
专知会员服务
7+阅读 · 6月9日
相关VIP内容
2024年中国AI大模型产业发展与应用研究报告
专知会员服务
34+阅读 · 2025年1月24日
GPT-4o发布,关注强交互场景落地
专知会员服务
31+阅读 · 2024年5月15日
GPT-4o:大模型风向标,OpenAI 重大更新
专知会员服务
45+阅读 · 2024年5月14日
2024中国AI大模型产业发展报告
专知会员服务
145+阅读 · 2024年3月28日
大模型时代的AI十大趋势观察
专知会员服务
149+阅读 · 2023年7月13日
《ChatGPT对文献情报工作的影响》研究报告(简版)
专知会员服务
92+阅读 · 2023年3月3日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员