Recommender systems (RecSys) have been widely applied to various applications, including E-commerce, finance, healthcare, social media and have become increasingly influential in shaping user behavior and decision-making, highlighting their growing impact in various domains. However, recent studies have shown that RecSys are vulnerable to membership inference attacks (MIAs), which aim to infer whether user interaction record was used to train a target model or not. MIAs on RecSys models can directly lead to a privacy breach. For example, via identifying the fact that a purchase record that has been used to train a RecSys associated with a specific user, an attacker can infer that user's special quirks. In recent years, MIAs have been shown to be effective on other ML tasks, e.g., classification models and natural language processing. However, traditional MIAs are ill-suited for RecSys due to the unseen posterior probability. Although MIAs on RecSys form a newly emerging and rapidly growing research area, there has been no systematic survey on this topic yet. In this article, we conduct the first comprehensive survey on RecSys MIAs. This survey offers a comprehensive review of the latest advancements in RecSys MIAs, exploring the design principles, challenges, attack and defense associated with this emerging field. We provide a unified taxonomy that categorizes different RecSys MIAs based on their characterizations and discuss their pros and cons. Based on the limitations and gaps identified in this survey, we point out several promising future research directions to inspire the researchers who wish to follow this area. This survey not only serves as a reference for the research community but also provides a clear description for researchers outside this research domain.


翻译:推荐系统已广泛应用于电子商务、金融、医疗保健、社交媒体等多个领域,在塑造用户行为和决策方面影响力日益增强,凸显了其在各领域不断增长的重要性。然而,近期研究表明推荐系统易受成员推断攻击的威胁,此类攻击旨在推断特定用户交互记录是否被用于训练目标模型。针对推荐系统模型的成员推断攻击可直接导致隐私泄露。例如,攻击者通过识别某购物记录曾被用于训练与特定用户相关联的推荐系统,即可推断该用户的特殊偏好。近年来,成员推断攻击已被证明在分类模型、自然语言处理等其他机器学习任务中具有显著效果。然而,由于不可见的后验概率问题,传统成员推断攻击方法并不适用于推荐系统场景。尽管针对推荐系统的成员推断攻击已形成一个新兴且快速发展的研究领域,目前尚未出现该主题的系统性综述。本文首次对推荐系统成员推断攻击研究进行全面综述,系统梳理了该新兴领域的最新进展,深入探讨了相关设计原理、核心挑战、攻击与防御机制。我们提出了统一的分类框架,依据攻击特征对不同类型的推荐系统成员推断攻击进行归类,并分析其优劣特性。基于本综述揭示的现有局限与研究空白,我们指出了多个具有潜力的未来研究方向,以启发该领域的研究人员。本综述不仅为相关研究社群提供系统参考,也为领域外的研究者提供了清晰的研究脉络解析。

0
下载
关闭预览

相关内容

基于因果推断的推荐系统去偏研究
专知会员服务
21+阅读 · 2024年11月10日
「基于联邦学习的推荐系统」最新2022研究综述
专知会员服务
75+阅读 · 2022年5月21日
对话推荐算法研究综述
专知会员服务
50+阅读 · 2022年2月18日
细节决定成败:推荐系统实验反思与讨论
专知会员服务
19+阅读 · 2021年12月10日
协同过滤推荐系统综述
专知会员服务
47+阅读 · 2021年11月4日
基于强化学习的推荐研究综述
专知会员服务
84+阅读 · 2021年10月21日
专知会员服务
23+阅读 · 2021年8月22日
基于知识图谱的推荐系统研究综述
专知会员服务
333+阅读 · 2020年8月10日
推荐系统(一):推荐系统基础
菜鸟的机器学习
25+阅读 · 2019年9月2日
新书推荐《推荐系统进展:方法与技术》
LibRec智能推荐
13+阅读 · 2019年3月18日
推荐系统资源(文献、工具、框架)整理
专知
18+阅读 · 2019年2月4日
推荐系统
炼数成金订阅号
28+阅读 · 2019年1月17日
推荐系统概述
Linux爱好者
20+阅读 · 2018年9月6日
深度学习在推荐系统中的应用综述(最全)
七月在线实验室
17+阅读 · 2018年5月5日
深度学习在推荐系统上的应用
架构文摘
13+阅读 · 2018年2月22日
推荐系统杂谈
架构文摘
28+阅读 · 2017年9月15日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Arxiv
0+阅读 · 1月10日
VIP会员
最新内容
2025年大语言模型进展报告
专知会员服务
8+阅读 · 4月25日
多智能体协作机制
专知会员服务
8+阅读 · 4月25日
非对称优势:美海军开发低成本反无人机技术
专知会员服务
9+阅读 · 4月25日
《美战争部小企业创新研究(SBIR)计划》
专知会员服务
8+阅读 · 4月25日
《军事模拟:将军事条令与目标融入AI智能体》
专知会员服务
12+阅读 · 4月25日
【NTU博士论文】3D人体动作生成
专知会员服务
9+阅读 · 4月24日
以色列军事技术对美国军力发展的持续性赋能
专知会员服务
9+阅读 · 4月24日
《深度强化学习在兵棋推演中的应用》40页报告
专知会员服务
16+阅读 · 4月24日
《多域作战面临复杂现实》
专知会员服务
13+阅读 · 4月24日
《印度的多域作战:条令与能力发展》报告
专知会员服务
6+阅读 · 4月24日
相关VIP内容
基于因果推断的推荐系统去偏研究
专知会员服务
21+阅读 · 2024年11月10日
「基于联邦学习的推荐系统」最新2022研究综述
专知会员服务
75+阅读 · 2022年5月21日
对话推荐算法研究综述
专知会员服务
50+阅读 · 2022年2月18日
细节决定成败:推荐系统实验反思与讨论
专知会员服务
19+阅读 · 2021年12月10日
协同过滤推荐系统综述
专知会员服务
47+阅读 · 2021年11月4日
基于强化学习的推荐研究综述
专知会员服务
84+阅读 · 2021年10月21日
专知会员服务
23+阅读 · 2021年8月22日
基于知识图谱的推荐系统研究综述
专知会员服务
333+阅读 · 2020年8月10日
相关资讯
推荐系统(一):推荐系统基础
菜鸟的机器学习
25+阅读 · 2019年9月2日
新书推荐《推荐系统进展:方法与技术》
LibRec智能推荐
13+阅读 · 2019年3月18日
推荐系统资源(文献、工具、框架)整理
专知
18+阅读 · 2019年2月4日
推荐系统
炼数成金订阅号
28+阅读 · 2019年1月17日
推荐系统概述
Linux爱好者
20+阅读 · 2018年9月6日
深度学习在推荐系统中的应用综述(最全)
七月在线实验室
17+阅读 · 2018年5月5日
深度学习在推荐系统上的应用
架构文摘
13+阅读 · 2018年2月22日
推荐系统杂谈
架构文摘
28+阅读 · 2017年9月15日
相关基金
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员