Recommender systems (RecSys) have been widely applied to various applications, including E-commerce, finance, healthcare, social media and have become increasingly influential in shaping user behavior and decision-making, highlighting their growing impact in various domains. However, recent studies have shown that RecSys are vulnerable to membership inference attacks (MIAs), which aim to infer whether user interaction record was used to train a target model or not. MIAs on RecSys models can directly lead to a privacy breach. For example, via identifying the fact that a purchase record that has been used to train a RecSys associated with a specific user, an attacker can infer that user's special quirks. In recent years, MIAs have been shown to be effective on other ML tasks, e.g., classification models and natural language processing. However, traditional MIAs are ill-suited for RecSys due to the unseen posterior probability. Although MIAs on RecSys form a newly emerging and rapidly growing research area, there has been no systematic survey on this topic yet. In this article, we conduct the first comprehensive survey on RecSys MIAs. This survey offers a comprehensive review of the latest advancements in RecSys MIAs, exploring the design principles, challenges, attack and defense associated with this emerging field. We provide a unified taxonomy that categorizes different RecSys MIAs based on their characterizations and discuss their pros and cons. Based on the limitations and gaps identified in this survey, we point out several promising future research directions to inspire the researchers who wish to follow this area. This survey not only serves as a reference for the research community but also provides a clear description for researchers outside this research domain.


翻译:推荐系统已广泛应用于电子商务、金融、医疗保健、社交媒体等多个领域,在塑造用户行为和决策方面影响力日益增强,凸显了其在各领域不断增长的重要性。然而,近期研究表明推荐系统易受成员推断攻击的威胁,此类攻击旨在推断特定用户交互记录是否被用于训练目标模型。针对推荐系统模型的成员推断攻击可直接导致隐私泄露。例如,攻击者通过识别某购物记录曾被用于训练与特定用户相关联的推荐系统,即可推断该用户的特殊偏好。近年来,成员推断攻击已被证明在分类模型、自然语言处理等其他机器学习任务中具有显著效果。然而,由于不可见的后验概率问题,传统成员推断攻击方法并不适用于推荐系统场景。尽管针对推荐系统的成员推断攻击已形成一个新兴且快速发展的研究领域,目前尚未出现该主题的系统性综述。本文首次对推荐系统成员推断攻击研究进行全面综述,系统梳理了该新兴领域的最新进展,深入探讨了相关设计原理、核心挑战、攻击与防御机制。我们提出了统一的分类框架,依据攻击特征对不同类型的推荐系统成员推断攻击进行归类,并分析其优劣特性。基于本综述揭示的现有局限与研究空白,我们指出了多个具有潜力的未来研究方向,以启发该领域的研究人员。本综述不仅为相关研究社群提供系统参考,也为领域外的研究者提供了清晰的研究脉络解析。

0
下载
关闭预览

相关内容

基于因果推断的推荐系统去偏研究
专知会员服务
21+阅读 · 2024年11月10日
「基于联邦学习的推荐系统」最新2022研究综述
专知会员服务
75+阅读 · 2022年5月21日
对话推荐算法研究综述
专知会员服务
50+阅读 · 2022年2月18日
细节决定成败:推荐系统实验反思与讨论
专知会员服务
19+阅读 · 2021年12月10日
协同过滤推荐系统综述
专知会员服务
47+阅读 · 2021年11月4日
基于强化学习的推荐研究综述
专知会员服务
84+阅读 · 2021年10月21日
专知会员服务
23+阅读 · 2021年8月22日
基于知识图谱的推荐系统研究综述
专知会员服务
333+阅读 · 2020年8月10日
推荐系统(一):推荐系统基础
菜鸟的机器学习
25+阅读 · 2019年9月2日
新书推荐《推荐系统进展:方法与技术》
LibRec智能推荐
13+阅读 · 2019年3月18日
推荐系统资源(文献、工具、框架)整理
专知
18+阅读 · 2019年2月4日
推荐系统
炼数成金订阅号
28+阅读 · 2019年1月17日
推荐系统概述
Linux爱好者
20+阅读 · 2018年9月6日
深度学习在推荐系统中的应用综述(最全)
七月在线实验室
17+阅读 · 2018年5月5日
深度学习在推荐系统上的应用
架构文摘
13+阅读 · 2018年2月22日
推荐系统杂谈
架构文摘
28+阅读 · 2017年9月15日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Arxiv
0+阅读 · 1月10日
VIP会员
相关VIP内容
基于因果推断的推荐系统去偏研究
专知会员服务
21+阅读 · 2024年11月10日
「基于联邦学习的推荐系统」最新2022研究综述
专知会员服务
75+阅读 · 2022年5月21日
对话推荐算法研究综述
专知会员服务
50+阅读 · 2022年2月18日
细节决定成败:推荐系统实验反思与讨论
专知会员服务
19+阅读 · 2021年12月10日
协同过滤推荐系统综述
专知会员服务
47+阅读 · 2021年11月4日
基于强化学习的推荐研究综述
专知会员服务
84+阅读 · 2021年10月21日
专知会员服务
23+阅读 · 2021年8月22日
基于知识图谱的推荐系统研究综述
专知会员服务
333+阅读 · 2020年8月10日
相关资讯
推荐系统(一):推荐系统基础
菜鸟的机器学习
25+阅读 · 2019年9月2日
新书推荐《推荐系统进展:方法与技术》
LibRec智能推荐
13+阅读 · 2019年3月18日
推荐系统资源(文献、工具、框架)整理
专知
18+阅读 · 2019年2月4日
推荐系统
炼数成金订阅号
28+阅读 · 2019年1月17日
推荐系统概述
Linux爱好者
20+阅读 · 2018年9月6日
深度学习在推荐系统中的应用综述(最全)
七月在线实验室
17+阅读 · 2018年5月5日
深度学习在推荐系统上的应用
架构文摘
13+阅读 · 2018年2月22日
推荐系统杂谈
架构文摘
28+阅读 · 2017年9月15日
相关基金
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员