Recent advancements in Natural Language Processing (NLP) have led to the development of NLP-based recommender systems that have shown superior performance. However, current models commonly treat items as mere IDs and adopt discriminative modeling, resulting in limitations of (1) fully leveraging the content information of items and the language modeling capabilities of NLP models; (2) interpreting user interests to improve relevance and diversity; and (3) adapting practical circumstances such as growing item inventories. To address these limitations, we present GPT4Rec, a novel and flexible generative framework inspired by search engines. It first generates hypothetical "search queries" given item titles in a user's history, and then retrieves items for recommendation by searching these queries. The framework overcomes previous limitations by learning both user and item embeddings in the language space. To well-capture user interests with different aspects and granularity for improving relevance and diversity, we propose a multi-query generation technique with beam search. The generated queries naturally serve as interpretable representations of user interests and can be searched to recommend cold-start items. With GPT-2 language model and BM25 search engine, our framework outperforms state-of-the-art methods by $75.7\%$ and $22.2\%$ in Recall@K on two public datasets. Experiments further revealed that multi-query generation with beam search improves both the diversity of retrieved items and the coverage of a user's multi-interests. The adaptiveness and interpretability of generated queries are discussed with qualitative case studies.


翻译:近期自然语言处理领域的进展催生了基于NLP的推荐系统,展现出优越性能。然而,现有模型通常将物品视为简单ID并采用判别式建模,导致以下局限:(1)未能充分利用物品内容信息及NLP模型的语言建模能力;(2)缺乏对用户兴趣的解释能力以提升推荐相关性与多样性;(3)难以适应物品库规模增长等实际场景。为解决上述问题,我们提出GPT4Rec——一个受搜索引擎启发的灵活生成式框架。该框架首先基于用户历史行为中的物品标题生成假设性"搜索查询",继而通过检索这些查询获取推荐物品。通过将用户与物品嵌入统一至语言空间,该框架克服了前述局限。针对用户兴趣的多维度与多粒度特性,我们提出基于束搜索的多查询生成技术以提升推荐相关性与多样性。生成的查询天然可作为用户兴趣的可解释性表征,且可通过检索实现冷启动物品推荐。基于GPT-2语言模型与BM25搜索引擎,本框架在两个公开数据集上Recall@K指标分别超越现有最优方法75.7%和22.2%。实验进一步表明,结合束搜索的多查询生成技术可有效提升检索物品多样性及用户多兴趣覆盖率。最后通过定性案例研究,探讨了生成查询的适应性与可解释性。

0
下载
关闭预览

相关内容

互联网
专知会员服务
88+阅读 · 2020年1月20日
KDD 2022 | 判别式自监督学习的个性化推荐
PaperWeekly
0+阅读 · 2022年9月17日
再见Attention: 建模用户长期兴趣的新范式
机器学习与推荐算法
3+阅读 · 2022年7月15日
WWW2022 | Recommendation Unlearning
机器学习与推荐算法
0+阅读 · 2022年6月2日
SIGIR2022 | 基于Prompt的用户自选公平性推荐算法
机器学习与推荐算法
1+阅读 · 2022年5月25日
SIGIR2022 | UCCR: 以用户为中心的对话推荐系统
机器学习与推荐算法
2+阅读 · 2022年5月18日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
论文浅尝 | 推荐系统的可解释性浅谈
开放知识图谱
15+阅读 · 2018年11月27日
LibRec 精选:推荐的可解释性[综述]
LibRec智能推荐
10+阅读 · 2018年5月4日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年5月26日
Interest-aware Message-Passing GCN for Recommendation
Arxiv
12+阅读 · 2021年2月19日
Arxiv
10+阅读 · 2019年2月19日
VIP会员
最新内容
ICML 2026 | CFPO:用反事实策略优化提升多模态推理
专知会员服务
1+阅读 · 今天14:45
综述 | 世界动作模型:少做梦,多行动
专知会员服务
1+阅读 · 今天14:43
美以伊冲突:无人机与人工智能的运用
专知会员服务
3+阅读 · 今天14:31
《特种部队在透明战场中的生存力》最新报告
专知会员服务
2+阅读 · 今天14:11
《人工智能生成的零日漏洞:对未来作战的影响》
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
8+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
相关VIP内容
专知会员服务
88+阅读 · 2020年1月20日
相关资讯
KDD 2022 | 判别式自监督学习的个性化推荐
PaperWeekly
0+阅读 · 2022年9月17日
再见Attention: 建模用户长期兴趣的新范式
机器学习与推荐算法
3+阅读 · 2022年7月15日
WWW2022 | Recommendation Unlearning
机器学习与推荐算法
0+阅读 · 2022年6月2日
SIGIR2022 | 基于Prompt的用户自选公平性推荐算法
机器学习与推荐算法
1+阅读 · 2022年5月25日
SIGIR2022 | UCCR: 以用户为中心的对话推荐系统
机器学习与推荐算法
2+阅读 · 2022年5月18日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
论文浅尝 | 推荐系统的可解释性浅谈
开放知识图谱
15+阅读 · 2018年11月27日
LibRec 精选:推荐的可解释性[综述]
LibRec智能推荐
10+阅读 · 2018年5月4日
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员