Among adversarial attacks against sequential recommender systems, model extraction attacks represent a method to attack sequential recommendation models without prior knowledge. Existing research has primarily concentrated on the adversary's execution of black-box attacks through data-free model extraction. However, a significant gap remains in the literature concerning the development of surrogate models by adversaries with access to few-shot raw data (10\% even less). That is, the challenge of how to construct a surrogate model with high functional similarity within the context of few-shot data scenarios remains an issue that requires resolution.This study addresses this gap by introducing a novel few-shot model extraction framework against sequential recommenders, which is designed to construct a superior surrogate model with the utilization of few-shot data. The proposed few-shot model extraction framework is comprised of two components: an autoregressive augmentation generation strategy and a bidirectional repair loss-facilitated model distillation procedure. Specifically, to generate synthetic data that closely approximate the distribution of raw data, autoregressive augmentation generation strategy integrates a probabilistic interaction sampler to extract inherent dependencies and a synthesis determinant signal module to characterize user behavioral patterns. Subsequently, bidirectional repair loss, which target the discrepancies between the recommendation lists, is designed as auxiliary loss to rectify erroneous predictions from surrogate models, transferring knowledge from the victim model to the surrogate model effectively. Experiments on three datasets show that the proposed few-shot model extraction framework yields superior surrogate models.


翻译:在针对序列推荐系统的对抗攻击中,模型提取攻击代表了一种无需先验知识即可攻击序列推荐模型的方法。现有研究主要集中于攻击者通过无数据模型提取执行黑盒攻击。然而,文献中仍存在一个显著空白,即关于攻击者在仅能获取少量原始数据(10%甚至更少)的情况下开发替代模型的研究。换言之,如何在少样本数据场景下构建具有高功能相似性的替代模型,仍然是一个有待解决的问题。本研究通过引入一种新颖的针对序列推荐器的少样本模型提取框架来填补这一空白,该框架旨在利用少量数据构建优质的替代模型。所提出的少样本模型提取框架由两个组件构成:自回归增强生成策略和双向修复损失促进的模型蒸馏过程。具体而言,为了生成与原始数据分布高度近似的合成数据,自回归增强生成策略整合了一个概率交互采样器以提取内在依赖关系,以及一个合成判定信号模块以刻画用户行为模式。随后,针对推荐列表间差异设计的双向修复损失被用作辅助损失,以纠正替代模型的错误预测,从而有效地将知识从受害模型迁移至替代模型。在三个数据集上的实验表明,所提出的少样本模型提取框架能够生成性能优越的替代模型。

0
下载
关闭预览

相关内容

大语言模型在序列推荐中的应用
专知会员服务
19+阅读 · 2024年11月12日
大模型撞上推荐系统
专知会员服务
123+阅读 · 2024年2月27日
【CVPR2023】基于强化学习的黑盒模型反演攻击
专知会员服务
24+阅读 · 2023年4月12日
专知会员服务
23+阅读 · 2021年8月22日
专知会员服务
56+阅读 · 2020年12月28日
模型攻击:鲁棒性联邦学习研究的最新进展
机器之心
35+阅读 · 2020年6月3日
推荐系统召回四模型之二:沉重的FFM模型
AINLP
23+阅读 · 2019年3月22日
推荐系统召回四模型之:全能的FM模型
AINLP
17+阅读 · 2019年3月4日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月18日
VIP会员
最新内容
最新“指挥控制”领域出版物合集(16份)
专知会员服务
6+阅读 · 4月12日
面向军事作战需求开发的人工智能(RAIMOND)
专知会员服务
12+阅读 · 4月12日
远程空中优势:新一代超视距导弹的兴起
专知会员服务
2+阅读 · 4月12日
大语言模型溯因推理的统一分类学与综述
专知会员服务
2+阅读 · 4月12日
相关VIP内容
大语言模型在序列推荐中的应用
专知会员服务
19+阅读 · 2024年11月12日
大模型撞上推荐系统
专知会员服务
123+阅读 · 2024年2月27日
【CVPR2023】基于强化学习的黑盒模型反演攻击
专知会员服务
24+阅读 · 2023年4月12日
专知会员服务
23+阅读 · 2021年8月22日
专知会员服务
56+阅读 · 2020年12月28日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员