Recommendation models that utilize unique identities (IDs) to represent distinct users and items have been state-of-the-art (SOTA) and dominated the recommender systems (RS) literature for over a decade. Meanwhile, the pre-trained modality encoders, such as BERT and ViT, have become increasingly powerful in modeling the raw modality features of an item, such as text and images. Given this, a natural question arises: can a purely modality-based recommendation model (MoRec) outperforms or matches a pure ID-based model (IDRec) by replacing the itemID embedding with a SOTA modality encoder? In fact, this question was answered ten years ago when IDRec beats MoRec by a strong margin in both recommendation accuracy and efficiency. We aim to revisit this `old' question and systematically study MoRec from several aspects. Specifically, we study several sub-questions: (i) which recommendation paradigm, MoRec or IDRec, performs better in practical scenarios, especially in the general setting and warm item scenarios where IDRec has a strong advantage? does this hold for items with different modality features? (ii) can the latest technical advances from other communities (i.e., natural language processing and computer vision) translate into accuracy improvement for MoRec? (iii) how to effectively utilize item modality representation, can we use it directly or do we have to adjust it with new data? (iv) are there some key challenges for MoRec to be solved in practical applications? To answer them, we conduct rigorous experiments for item recommendations with two popular modalities, i.e., text and vision. We provide the first empirical evidence that MoRec is already comparable to its IDRec counterpart with an expensive end-to-end training method, even for warm item recommendation. Our results potentially imply that the dominance of IDRec in the RS field may be greatly challenged in the future.


翻译:利用唯一标识符(ID)表示不同用户和物品的推荐模型在过去十余年中一直是推荐系统(RS)领域的先进技术(SOTA)并处于主导地位。与此同时,预训练模态编码器(如BERT和ViT)在建模物品原始模态特征(如文本和图像)方面变得日益强大。基于此,一个自然的问题随之产生:通过用SOTA模态编码器替代物品ID嵌入,纯基于模态的推荐模型(MoRec)能否超越或匹敌纯基于ID的模型(IDRec)?事实上,这个问题在十年前已有答案——当时IDRec在推荐准确性和效率两方面均大幅领先MoRec。我们旨在重新审视这一“古老”问题,并从多个维度系统研究MoRec。具体而言,我们探究以下几个子问题:(i) 在实际场景中(尤其是在通用设置和IDRec具有显著优势的流行物品场景下),MoRec与IDRec哪种推荐范式表现更优?这一结论是否适用于不同模态特征的物品?(ii) 其他领域(如自然语言处理和计算机视觉)的最新技术进展能否转化为MoRec的准确率提升?(iii) 如何有效利用物品模态表征?是直接使用还是必须通过新数据进行调整?(iv) MoRec在实际应用中存在哪些关键挑战需待解决?为回答这些问题,我们针对两种主流模态(文本与视觉)的物品推荐开展了严谨实验。首次实验证据表明:即便在流行物品推荐场景中,采用昂贵的端到端训练方法的MoRec已与IDRec性能相当。我们的结果潜在暗示:IDRec在推荐系统领域的主导地位未来可能面临重大挑战。

0
下载
关闭预览

相关内容

专知会员服务
23+阅读 · 2020年9月8日
【KDD2020-Tutorial】自动推荐系统,Automated Recommendation System
推荐系统多任务学习上分技巧
机器学习与推荐算法
0+阅读 · 2022年10月19日
TransRec: 基于混合模态反馈的可迁移推荐系统
机器学习与推荐算法
0+阅读 · 2022年7月13日
一文梳理推荐系统中的多任务学习
机器学习与推荐算法
8+阅读 · 2022年6月15日
SIGIR2022 | 从Prompt的角度考量强化学习推荐系统
机器学习与推荐算法
1+阅读 · 2022年5月24日
IJCAI2022推荐系统论文集锦
机器学习与推荐算法
0+阅读 · 2022年5月20日
稠密检索模型的zero-shot能力究竟如何?
RUC AI Box
0+阅读 · 2022年4月28日
推荐中的序列化建模:Session-based neural recommendation
机器学习研究会
18+阅读 · 2017年11月5日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
176+阅读 · 2023年4月20日
VIP会员
最新内容
综述 | 从问答到任务完成:Agent系统与Harness设计
专知会员服务
1+阅读 · 今天16:54
Agentic RL:框架、实践与长程智能体训练
专知会员服务
1+阅读 · 今天16:52
重新思考无人机时代的生存能力
专知会员服务
5+阅读 · 今天7:44
装甲突击旅:现代战争思考、战斗与组织
专知会员服务
4+阅读 · 今天7:28
在人工智能加速决策环境中拓展OODA循环
专知会员服务
4+阅读 · 今天7:18
军事欺骗:供作战战术指挥官使用的工具
专知会员服务
4+阅读 · 今天7:03
综述 | 世界动作模型:少做梦,多行动
专知会员服务
6+阅读 · 6月23日
美以伊冲突:无人机与人工智能的运用
专知会员服务
10+阅读 · 6月23日
《特种部队在透明战场中的生存力》最新报告
专知会员服务
5+阅读 · 6月23日
相关VIP内容
专知会员服务
23+阅读 · 2020年9月8日
【KDD2020-Tutorial】自动推荐系统,Automated Recommendation System
相关资讯
推荐系统多任务学习上分技巧
机器学习与推荐算法
0+阅读 · 2022年10月19日
TransRec: 基于混合模态反馈的可迁移推荐系统
机器学习与推荐算法
0+阅读 · 2022年7月13日
一文梳理推荐系统中的多任务学习
机器学习与推荐算法
8+阅读 · 2022年6月15日
SIGIR2022 | 从Prompt的角度考量强化学习推荐系统
机器学习与推荐算法
1+阅读 · 2022年5月24日
IJCAI2022推荐系统论文集锦
机器学习与推荐算法
0+阅读 · 2022年5月20日
稠密检索模型的zero-shot能力究竟如何?
RUC AI Box
0+阅读 · 2022年4月28日
推荐中的序列化建模:Session-based neural recommendation
机器学习研究会
18+阅读 · 2017年11月5日
相关基金
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员