Social media platforms have rapidly adopted algorithmic curation with little consideration for the potential harm to users' mental well-being. We present findings from design workshops with 21 participants diagnosed with mental illness about their interactions with social media platforms. We find that users develop cause-and-effect explanations, or folk theories, to understand their experiences with algorithmic curation. These folk theories highlight a breakdown in algorithmic design that we explain using the framework of entanglement, a phenomenon where there is a disconnect between users' actions and platform outcomes on an emotional level. Participants' designs to address entanglement and mitigate harms centered on contextualizing their engagement and restoring explicit user control on social media. The conceptualization of entanglement and the resulting design recommendations have implications for social computing and recommender systems research, particularly in evaluating and designing social media platforms that support users' mental well-being.


翻译:社交媒体平台迅速采用算法推荐机制,却极少考虑其对用户心理健康可能造成的危害。我们通过21位精神疾病确诊参与者开展的设计研讨会,呈现了关于他们与社交媒体平台互动的发现。研究发现,用户会构建因果解释(即民间理论)来理解算法推荐机制下的使用体验。这些民间理论揭示了算法设计的缺陷,我们通过"纠缠"框架对此进行阐释——该现象指用户行为与平台结果在情感层面存在脱节。参与者针对解决纠缠问题、减轻危害的设计方案,主要集中在社交媒体的情境化互动体验重构与显式用户控制权恢复两方面。纠缠现象的概念化及其衍生的设计建议,对社交计算与推荐系统研究具有重要启示,尤其对评估和设计支持用户心理健康的社交媒体平台具有指导意义。

0
下载
关闭预览

相关内容

佐治亚理工学院最新《图神经网络社会推荐系统》2022综述
【2020新书】社交媒体挖掘,212pdf,Mining Social Media
专知会员服务
63+阅读 · 2020年7月30日
 【中科院信工所】社交媒体情感分析,40页ppt
专知会员服务
104+阅读 · 2019年12月13日
【社交网络】一文读懂社交网络分析
产业智能官
15+阅读 · 2017年10月14日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月23日
Arxiv
0+阅读 · 2月20日
VIP会员
最新内容
BES:让语言模型通过双向进化搜索自我改进
专知会员服务
1+阅读 · 5月30日
以色列-美国-伊朗战争中的无人机:关键要点
专知会员服务
3+阅读 · 5月30日
《Palantir任务保障性软件安全标准(MA-S2)》
专知会员服务
8+阅读 · 5月30日
基于声学的无人机检测技术综述
专知会员服务
5+阅读 · 5月30日
《当代混合战争分析框架:俄乌战争经验教训》
战略前沿人工智能的再思考(中文)
专知会员服务
7+阅读 · 5月29日
《量化地基防空系统间接效应的博弈论方法》
专知会员服务
5+阅读 · 5月29日
相关VIP内容
佐治亚理工学院最新《图神经网络社会推荐系统》2022综述
【2020新书】社交媒体挖掘,212pdf,Mining Social Media
专知会员服务
63+阅读 · 2020年7月30日
 【中科院信工所】社交媒体情感分析,40页ppt
专知会员服务
104+阅读 · 2019年12月13日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员