Social media platforms have rapidly adopted algorithmic curation with little consideration for the potential harm to users' mental well-being. We present findings from design workshops with 21 participants diagnosed with mental illness about their interactions with social media platforms. We find that users develop cause-and-effect explanations, or folk theories, to understand their experiences with algorithmic curation. These folk theories highlight a breakdown in algorithmic design that we explain using the framework of entanglement, a phenomenon where there is a disconnect between users' actions and platform outcomes on an emotional level. Participants' designs to address entanglement and mitigate harms centered on contextualizing their engagement and restoring explicit user control on social media. The conceptualization of entanglement and the resulting design recommendations have implications for social computing and recommender systems research, particularly in evaluating and designing social media platforms that support users' mental well-being.


翻译:社交媒体平台迅速采用算法推荐机制,却极少考虑其对用户心理健康可能造成的危害。我们通过21位精神疾病确诊参与者开展的设计研讨会,呈现了关于他们与社交媒体平台互动的发现。研究发现,用户会构建因果解释(即民间理论)来理解算法推荐机制下的使用体验。这些民间理论揭示了算法设计的缺陷,我们通过"纠缠"框架对此进行阐释——该现象指用户行为与平台结果在情感层面存在脱节。参与者针对解决纠缠问题、减轻危害的设计方案,主要集中在社交媒体的情境化互动体验重构与显式用户控制权恢复两方面。纠缠现象的概念化及其衍生的设计建议,对社交计算与推荐系统研究具有重要启示,尤其对评估和设计支持用户心理健康的社交媒体平台具有指导意义。

0
下载
关闭预览

相关内容

佐治亚理工学院最新《图神经网络社会推荐系统》2022综述
【2020新书】社交媒体挖掘,212pdf,Mining Social Media
专知会员服务
63+阅读 · 2020年7月30日
 【中科院信工所】社交媒体情感分析,40页ppt
专知会员服务
104+阅读 · 2019年12月13日
【社交网络】一文读懂社交网络分析
产业智能官
15+阅读 · 2017年10月14日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关VIP内容
佐治亚理工学院最新《图神经网络社会推荐系统》2022综述
【2020新书】社交媒体挖掘,212pdf,Mining Social Media
专知会员服务
63+阅读 · 2020年7月30日
 【中科院信工所】社交媒体情感分析,40页ppt
专知会员服务
104+阅读 · 2019年12月13日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员