User-created chatbots powered by generative AI offer new ways to share and interact with Not-Safe-For-Work (NSFW) content. However, little is known about the characteristics of these GenAI-based chatbots and their user interactions. Drawing on the functional theory of NSFW on social media, this study analyzes 376 NSFW chatbots and 307 public conversation sessions on FlowGPT. Findings identify four chatbot types: roleplay characters, story generators, image generators, and do-anything-now bots. AI Characters portraying fantasy personas and enabling hangout-style interactions are most common, often using explicit avatar images to invite engagement. Sexual, violent, and insulting content appears in both user prompts and chatbot outputs, with some chatbots generating explicit material even when users do not create erotic prompts. In sum, the NSFW experience on FlowGPT can be understood as a combination of virtual intimacy, sexual delusion, violent thought expression, and unsafe content acquisition. We conclude with implications for chatbot design, creator support, user safety, and content moderation.


翻译:基于生成式人工智能的用户创建聊天机器人为分享和互动非安全内容提供了新途径。然而,目前对这些基于生成式人工智能的聊天机器人特性及其用户交互行为知之甚少。本研究借鉴社交媒体非安全内容功能理论,对FlowGPT平台上的376个非安全内容聊天机器人和307个公开对话会话进行了分析。研究发现存在四种聊天机器人类型:角色扮演人物、故事生成器、图像生成器以及"无所不能"型机器人。其中,以幻想人设为特征并支持休闲式交互的AI角色最为普遍,这类机器人常使用露骨头像图片吸引用户参与。性暗示、暴力及侮辱性内容同时出现在用户输入提示词和聊天机器人输出中,部分聊天机器人在用户未输入色情提示词的情况下仍会生成露骨内容。总体而言,FlowGPT平台上的非安全内容体验可理解为虚拟亲密关系、性幻想、暴力思想表达以及不安全内容获取的结合体。最后,本研究讨论了该现象对聊天机器人设计、创作者支持、用户安全及内容审核的启示。

0
下载
关闭预览

相关内容

Chatbot,聊天机器人。 chatbot是场交互革命,也是一个多技术融合的平台。上图给出了构建一个chatbot需要具备的组件,简单地说chatbot = NLU(Natural Language Understanding) + NLG(Natural Language Generation)。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【新书】生成式人工智能:概念与应用
专知会员服务
46+阅读 · 2025年3月18日
【新书】利用生成式人工智能进行网络防御策略
专知会员服务
31+阅读 · 2024年10月18日
【新书】聊天机器人和文本生成
专知会员服务
32+阅读 · 2024年8月8日
检索式聊天机器人技术综述
专知会员服务
53+阅读 · 2021年11月28日
揭秘ChatGPT情感对话能力
专知
16+阅读 · 2023年4月9日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
VIP会员
相关基金
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员