People candidly discuss sensitive topics online under the perceived safety of anonymity; yet, for many, this perceived safety is tenuous, as miscalibrated risk perceptions can lead to over-disclosure. Recent advances in Natural Language Processing (NLP) afford an unprecedented opportunity to present users with quantified disclosure-based re-identification risk (i.e., "population risk estimates", PREs). How can PREs be presented to users in a way that promotes informed decision-making, mitigating risk without encouraging unnecessary self-censorship? Using design fictions and comic-boarding, we story-boarded five design concepts for presenting PREs to users and evaluated them through an online survey with N = 44 Reddit users. We found participants had detailed conceptions of how PREs may impact risk awareness and motivation, but envisioned needing additional context and support to effectively interpret and act on risks. We distill our findings into four key design recommendations for how best to present users with quantified privacy risks to support informed disclosure decision-making.


翻译:人们在匿名性的感知安全下在线坦率讨论敏感话题;然而,对许多人而言,这种感知安全是脆弱的,因为错误校准的风险认知可能导致过度披露。自然语言处理(NLP)的最新进展提供了前所未有的机会,向用户呈现基于披露的量化重识别风险(即“群体风险估计”,PREs)。如何向用户呈现PREs,以促进知情决策,在降低风险的同时避免鼓励不必要的自我审查?通过设计虚构和漫画分镜,我们为向用户呈现PREs绘制了五种设计概念的故事板,并通过一项N = 44名Reddit用户的在线调查对其进行了评估。我们发现参与者对PREs如何影响风险意识和动机有详细的构想,但设想需要额外的上下文和支持来有效解释风险并采取行动。我们将研究结果提炼为四项关键设计建议,旨在指导如何最佳地向用户呈现量化隐私风险,以支持知情披露决策。

0
下载
关闭预览

相关内容

迈向透明人工智能(AI):可解释性语言模型综述
专知会员服务
15+阅读 · 2025年9月29日
机密计算保障人工智能系统安全研究报告
专知会员服务
19+阅读 · 2025年1月20日
大语言模型中的提示隐私保护
专知会员服务
24+阅读 · 2024年7月24日
可信隐私计算研究报告(2022年)
专知会员服务
105+阅读 · 2022年7月30日
UCL最新「机器学习隐私」综述论文,概述隐私挑战
专知会员服务
37+阅读 · 2021年7月11日
专知会员服务
40+阅读 · 2020年12月20日
报告 | 腾讯知文,从0到1打造下一代智能问答引擎【CCF-GAIR】
机器学习算法与Python学习
13+阅读 · 2018年7月4日
综述——隐私保护集合交集计算技术研究
计算机研究与发展
22+阅读 · 2017年10月24日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 1月20日
Arxiv
0+阅读 · 1月15日
VIP会员
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员