In this study, we apply the information-theoretic Privacy Funnel (PF) model to face recognition and develop a method for privacy-preserving representation learning within an end-to-end trainable framework. Our approach addresses the trade-off between utility and obfuscation of sensitive information under logarithmic loss. We study the integration of information-theoretic privacy principles with representation learning, with a particular focus on face recognition systems. We also highlight the compatibility of the proposed framework with modern face recognition networks such as AdaFace and ArcFace. In addition, we introduce the Generative Privacy Funnel ($\mathsf{GenPF}$) model, which extends the traditional discriminative PF formulation, referred to here as the Discriminative Privacy Funnel ($\mathsf{DisPF}$). The proposed $\mathsf{GenPF}$ model extends the privacy-funnel framework to generative formulations under information-theoretic and estimation-theoretic criteria. Complementing these developments, we present the deep variational PF (DVPF) model, which yields a tractable variational bound for measuring information leakage and enables optimization in deep representation-learning settings. The DVPF framework, associated with both the $\mathsf{DisPF}$ and $\mathsf{GenPF}$ models, also clarifies connections with generative models such as variational autoencoders (VAEs), generative adversarial networks (GANs), and diffusion models. Finally, we validate the framework on modern face recognition systems and show that it provides a controllable privacy--utility trade-off while substantially reducing leakage about sensitive attributes. To support reproducibility, we also release a PyTorch implementation of the proposed framework.


翻译:本研究将信息论隐私漏斗(PF)模型应用于人脸识别,并开发了一种在端到端可训练框架内实现隐私保护表示学习的方法。我们的方法解决了在对数损失下,效用与敏感信息混淆之间的权衡问题。我们研究了信息论隐私原则与表示学习的融合,特别关注人脸识别系统。同时,我们强调了所提出的框架与现代人脸识别网络(如AdaFace和ArcFace)的兼容性。此外,我们引入了生成式隐私漏斗模型,该模型扩展了传统的判别式PF公式(这里称为判别式隐私漏斗)。所提出的模型将隐私漏斗框架扩展到信息论和估计论标准下的生成式公式中。作为这些发展的补充,我们提出了深度变分隐私漏斗(DVPF)模型,该模型为衡量信息泄露提供了可处理的变分界,并能够在深度表示学习设置中进行优化。与和模型相关联的DVPF框架也阐明了其与生成式模型(如变分自编码器(VAE)、生成对抗网络(GAN)和扩散模型)的联系。最后,我们在现代人脸识别系统上验证了该框架,并表明它提供了可控的隐私-效用权衡,同时大幅减少了敏感属性的泄露。为了支持可重复性,我们还发布了所提出框架的PyTorch实现。

0
下载
关闭预览

相关内容

【斯坦福博士论文】有效的差分隐私深度学习,153页pdf
专知会员服务
19+阅读 · 2024年7月10日
专知会员服务
56+阅读 · 2021年3月5日
最新《深度学习人脸识别》综述论文,
专知会员服务
68+阅读 · 2020年8月10日
人脸识别技术全面总结:从传统方法到深度学习
算法与数学之美
12+阅读 · 2019年2月27日
深度学习人脸识别系统DFace
深度学习
17+阅读 · 2018年2月14日
【干货】通过OpenFace来理解人脸识别
专知
56+阅读 · 2018年1月23日
展望:模型驱动的深度学习
人工智能学家
12+阅读 · 2018年1月23日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
4+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
【斯坦福博士论文】有效的差分隐私深度学习,153页pdf
专知会员服务
19+阅读 · 2024年7月10日
专知会员服务
56+阅读 · 2021年3月5日
最新《深度学习人脸识别》综述论文,
专知会员服务
68+阅读 · 2020年8月10日
相关资讯
人脸识别技术全面总结:从传统方法到深度学习
算法与数学之美
12+阅读 · 2019年2月27日
深度学习人脸识别系统DFace
深度学习
17+阅读 · 2018年2月14日
【干货】通过OpenFace来理解人脸识别
专知
56+阅读 · 2018年1月23日
展望:模型驱动的深度学习
人工智能学家
12+阅读 · 2018年1月23日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员