机器学习模型包含训练数据的相关信息。这些信息要么通过模型本身泄露,要么通过模型做出的预测泄露。因此,当训练数据包含敏感属性时,评估信息泄漏量是至关重要的。我们提出了一种利用模型中关于数据的Fisher信息来量化这种泄漏的方法。在最坏情况下,基于先验的差别隐私保证,Fisher信息损失测量关于数据集中的特定实例、属性或子群的泄漏。我们通过Cramér-Rao约束激励Fisher信息损失,并描述隐含威胁模型。给出了输出摄动广义线性模型Fisher信息损失的有效计算方法。最后,实证验证了Fisher信息损失是一种有效的信息泄漏度量方法。

成为VIP会员查看完整内容
17

相关内容

专知会员服务
19+阅读 · 2021年9月19日
【干货书】概率与信息,一种集成方法,291页pdf
专知会员服务
70+阅读 · 2021年9月1日
【ICML2021-Tutorial】机器学习隐私,90页ppt
专知会员服务
38+阅读 · 2021年7月27日
专知会员服务
38+阅读 · 2021年6月3日
【ICLR2021】对未标记数据进行深度网络自训练的理论分析
【AAAI2021】知识迁移的机器学习成员隐私保护,57页ppt
专知会员服务
28+阅读 · 2021年2月9日
【DeepMind-NeurIPS 2020】元训练代理实现Bayes-optimal代理
专知会员服务
12+阅读 · 2020年11月1日
美参议员提出商业面部识别隐私法案
蚂蚁金服评论
12+阅读 · 2019年4月25日
该如何利用威胁情报进行更智能的风险评估
Python中机器学习的特征选择工具
云栖社区
8+阅读 · 2018年7月16日
通过机器学习让医疗数据更好用
谷歌开发者
3+阅读 · 2018年7月10日
基于信息理论的机器学习
专知
22+阅读 · 2017年11月23日
结合弱监督信息的凸聚类
计算机研究与发展
6+阅读 · 2017年8月30日
Arxiv
0+阅读 · 2021年10月5日
Disentangled Information Bottleneck
Arxiv
12+阅读 · 2020年12月22日
VIP会员
最新内容
博士论文 | 面向大模型推理的内存高效算法
专知会员服务
0+阅读 · 今天15:20
美空军新型反无人机部队初探
专知会员服务
4+阅读 · 今天5:45
《防空交战流程的概率建模研究》
专知会员服务
6+阅读 · 今天5:04
ICML 2026 教程 | 数值优化理论还重要吗?
专知会员服务
4+阅读 · 7月26日
ICM 2026 | 陶哲轩:人工智能时代的数学
专知会员服务
8+阅读 · 7月26日
《反无人机交战场景下的战斗归零研究》
专知会员服务
7+阅读 · 7月26日
博士论文 | 用代码结构感知方法推进代码大模型
相关VIP内容
专知会员服务
19+阅读 · 2021年9月19日
【干货书】概率与信息,一种集成方法,291页pdf
专知会员服务
70+阅读 · 2021年9月1日
【ICML2021-Tutorial】机器学习隐私,90页ppt
专知会员服务
38+阅读 · 2021年7月27日
专知会员服务
38+阅读 · 2021年6月3日
【ICLR2021】对未标记数据进行深度网络自训练的理论分析
【AAAI2021】知识迁移的机器学习成员隐私保护,57页ppt
专知会员服务
28+阅读 · 2021年2月9日
【DeepMind-NeurIPS 2020】元训练代理实现Bayes-optimal代理
专知会员服务
12+阅读 · 2020年11月1日
相关资讯
美参议员提出商业面部识别隐私法案
蚂蚁金服评论
12+阅读 · 2019年4月25日
该如何利用威胁情报进行更智能的风险评估
Python中机器学习的特征选择工具
云栖社区
8+阅读 · 2018年7月16日
通过机器学习让医疗数据更好用
谷歌开发者
3+阅读 · 2018年7月10日
基于信息理论的机器学习
专知
22+阅读 · 2017年11月23日
结合弱监督信息的凸聚类
计算机研究与发展
6+阅读 · 2017年8月30日
微信扫码咨询专知VIP会员