Hate speech remains a pressing challenge on social media, where platform moderation often fails to protect targeted users. Personal moderation tools that let users decide how content is filtered can address some of these shortcomings. However, it remains an open question on which screens (e.g., the comments, the reels tab, or the home feed) users want personal moderation and which features they value most. To address these gaps, we conducted a three-wave Delphi study with 40 activists who experienced hate speech. We combined quantitative ratings and rankings with open questions about required features. Participants prioritized personal moderation for conversational and algorithmically curated screens. They valued features allowing for reversibility and oversight across screens, while input-based, content-type specific, and highly automated features are more screen specific. We discuss the importance of personal moderation and offer user-centered design recommendations for personal moderation on Instagram.


翻译:仇恨言论在社交媒体上仍是一个紧迫的挑战,平台审核机制往往未能有效保护目标用户。允许用户自主决定内容过滤方式的个人审核工具可以弥补部分缺陷。然而,用户希望在哪些界面(如评论区、Reels标签页或首页动态)进行个人审核,以及他们最重视哪些功能,仍是待解决的问题。为填补这些研究空白,我们与40名曾遭受仇恨言论的社运人士开展了一项三轮德尔菲研究。我们结合定量评分与排序,并辅以关于必要功能的开放式提问。参与者优先考虑在对话性界面及算法推荐界面实施个人审核。他们重视允许跨界面操作可逆性及全局监督的功能,而基于输入类型、内容类别特定及高度自动化的功能则更具界面专属性。我们探讨了个人审核的重要性,并为Instagram的个人审核功能提出了以用户为中心的设计建议。

0
下载
关闭预览

相关内容

Instagram 是一款运行在 iPhone 和 Android 平台上的应用程序,允许用户在任何环境下抓拍下自己的生活记忆,选择图片的滤镜样式,一键分享至社会化平台上。Instagram 在移动端融入了很多社会化元素,包括好友关系的建立、回复、分享等,这是Instagram 作为服务存在而非应用存在最大的价值。 instagram.com/ 
《利用大型语言模型检测社交平台上的网络欺凌行为》
专知会员服务
44+阅读 · 2024年1月23日
专知会员服务
28+阅读 · 2021年8月15日
专知会员服务
21+阅读 · 2021年6月27日
FaceNiff工具 - 适用于黑客的Android应用程序
黑白之道
151+阅读 · 2019年4月7日
【专题】Facebook遭德国反垄断调查及其影响分析
蚂蚁金服评论
17+阅读 · 2019年4月1日
NetworkMiner - 网络取证分析工具
黑白之道
16+阅读 · 2018年6月29日
SCENE-一个可扩展两层级新闻推荐系统
全球人工智能
11+阅读 · 2018年1月7日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
27+阅读 · 2014年12月31日
VIP会员
最新内容
高阶网络的表示:基于图的框架综述
专知会员服务
1+阅读 · 今天16:46
《人工智能中的多智能体自主决策》380页博士论文
《作战资源再分配的作战行动数学模型构建》
专知会员服务
12+阅读 · 今天2:37
世界动作模型: 具身AI的下一个前沿
专知会员服务
12+阅读 · 5月13日
全球十大防空反导系统:列表、射程与用途
专知会员服务
15+阅读 · 5月13日
相关VIP内容
《利用大型语言模型检测社交平台上的网络欺凌行为》
专知会员服务
44+阅读 · 2024年1月23日
专知会员服务
28+阅读 · 2021年8月15日
专知会员服务
21+阅读 · 2021年6月27日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
27+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员