Human mobility data are used in numerous applications, ranging from public health to urban planning. Human mobility is inherently sensitive, as it can contain information such as religious beliefs and political affiliations. Historically, it has been proposed to modify the information using techniques such as aggregation, obfuscation, or noise addition, to adequately protect privacy and eliminate concerns. As these methods come at a great cost in utility, new methods leveraging development in generative models, were introduced. The extent to which such methods answer the privacy-utility trade-off remains an open problem. In this paper, we introduced a first step towards solving it, by the introduction and application of a new framework for utility evaluation. Furthermore, we provide evidence that privacy evaluation remains a great challenge to consider and that it should be tackled through adversarial evaluation in accordance with the current EU regulation. We propose a new membership inference attack against a subcategory of generative models, even though this subcategory was deemed private due to its resistance over the trajectory user-linking problem.


翻译:人类移动数据被广泛应用于从公共卫生到城市规划的众多领域。由于移动数据可能包含宗教信仰和政治倾向等信息,其本质上是敏感的。历史上,研究者提出通过聚合、混淆或添加噪声等技术来修改信息,以充分保护隐私并消除顾虑。由于这些方法会极大损害数据效用,利用生成模型发展的新方法应运而生。这类方法在多大程度上能够平衡隐私与效用仍是一个悬而未决的问题。本文通过引入并应用新的效用评估框架,迈出了解决该问题的第一步。此外,我们提供了证据表明,隐私评估仍是一个需要高度重视的挑战,且应根据现行欧盟法规通过对抗性评估加以解决。我们针对生成模型的一个子类别提出了一种新的成员推理攻击——尽管该子类别因对轨迹用户链接问题具有抵抗力而被视为具备隐私保护能力。

0
下载
关闭预览

相关内容

综述:面向移动端大语言模型的隐私与安全
专知会员服务
19+阅读 · 2025年9月7日
《利用合成数据生成加强军事决策支持》
专知会员服务
43+阅读 · 2024年12月30日
机器遗忘综述:技术与新出现的隐私风险
专知会员服务
24+阅读 · 2024年6月16日
生成技术在时空数据挖掘中的应用
专知会员服务
39+阅读 · 2024年6月5日
【MIT博士论文】隐私保护视频分析,116页pdf
专知会员服务
20+阅读 · 2023年8月10日
专知会员服务
16+阅读 · 2021年8月6日
数据受限条件下的多模态处理技术综述
专知
22+阅读 · 2022年7月16日
基于深度学习的数据融合方法研究综述
专知
37+阅读 · 2020年12月10日
联邦学习安全与隐私保护研究综述
专知
12+阅读 · 2020年8月7日
【知识图谱】基于知识图谱的用户画像技术
产业智能官
103+阅读 · 2019年1月9日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
无人机自主控制与人工智能:系统性综述
专知会员服务
10+阅读 · 今天7:25
巡飞弹与反无人机系统——现代战场的两大支柱
专知会员服务
3+阅读 · 今天6:54
《打造“黄金舰队”》57页报告
专知会员服务
3+阅读 · 今天6:52
《北约数字教官网络发展路径》128页报告
专知会员服务
2+阅读 · 今天6:33
ECCV 2026 | MIMFlow:MIM与归一化流统一图像生成
专知会员服务
7+阅读 · 6月25日
网状网络及其在军事领域的运用
专知会员服务
7+阅读 · 6月25日
无美国参与的欧洲战争方式(万字长文)
专知会员服务
8+阅读 · 6月25日
《国防领域敏感性分析白皮书》
专知会员服务
9+阅读 · 6月25日
综述 | 从问答到任务完成:Agent系统与Harness设计
专知会员服务
10+阅读 · 6月24日
Agentic RL:框架、实践与长程智能体训练
专知会员服务
10+阅读 · 6月24日
相关VIP内容
综述:面向移动端大语言模型的隐私与安全
专知会员服务
19+阅读 · 2025年9月7日
《利用合成数据生成加强军事决策支持》
专知会员服务
43+阅读 · 2024年12月30日
机器遗忘综述:技术与新出现的隐私风险
专知会员服务
24+阅读 · 2024年6月16日
生成技术在时空数据挖掘中的应用
专知会员服务
39+阅读 · 2024年6月5日
【MIT博士论文】隐私保护视频分析,116页pdf
专知会员服务
20+阅读 · 2023年8月10日
专知会员服务
16+阅读 · 2021年8月6日
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员