Split inference (SI) enables users to access deep learning (DL) services without directly transmitting raw data. However, recent studies reveal that data reconstruction attacks (DRAs) can recover the original inputs from the smashed data sent from the client to the server, leading to significant privacy leakage. While various defenses have been proposed, they often result in substantial utility degradation, particularly when the client-side model is shallow. We identify a key cause of this trade-off: existing defenses apply excessive perturbation to redundant information in the smashed data. To address this issue in computer vision tasks, we propose InfoDecom, a defense framework that first decomposes and removes redundant information and then injects noise calibrated to provide theoretically guaranteed privacy. Experiments demonstrate that InfoDecom achieves a superior utility-privacy trade-off compared to existing baselines.


翻译:拆分推理(SI)使得用户无需直接传输原始数据即可访问深度学习(DL)服务。然而,近期研究表明,数据重建攻击(DRA)能够从客户端发送至服务器的中间数据中恢复原始输入,从而导致严重的隐私泄露。尽管已有多种防御方法被提出,但它们通常会导致显著的效用下降,尤其是在客户端模型较浅时。我们发现这一权衡问题的关键原因在于:现有防御方法对中间数据中的冗余信息施加了过度扰动。针对计算机视觉任务中的这一问题,我们提出了InfoDecom防御框架,该框架首先分解并移除冗余信息,随后注入经过校准的噪声以提供理论保证的隐私保护。实验表明,与现有基线方法相比,InfoDecom实现了更优的效用-隐私权衡。

0
下载
关闭预览

相关内容

【AAAI2025】TimeDP:通过领域提示学习生成多领域时间序列
【WWW2024】RecDCL: 双重对比学习用于推荐
专知会员服务
23+阅读 · 2024年1月30日
论文浅尝 | GEOM-GCN: Geometric Graph Convolutional Networks
开放知识图谱
14+阅读 · 2020年4月8日
国家自然科学基金
17+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
17+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员