对特征交互进行建模是推荐系统中的一个重要问题。在现有的深度推荐模型中,特征交互是由专家设计或者简单枚举得到。但是,简单枚举所有的特征交互会占用大量的内存和计算时间。更糟糕的是,无效的特征交互会引入不必要的噪声,干扰推荐模型的训练。在本工作中,我们提出了一个两阶段的模型AutoFIS。

AutoFIS可以为因子分解类模型自动定义出所有重要的特征交互,而并不过多地增加训练时间。在搜索阶段,为了实现在特征交互的离散集合上进行搜索,我们引入连续型结构变量来辅助搜索。通过在这些结构变量上加入约束型优化器,我们的模型在训练过程中可以自动定位并删除无效的特征交互。在重训练阶段,我们将这些结构变量当做注意力机制的权重参数来重新训练,以进一步提升模型的精度。我们在公开数据集和产品数据集上验证,AutoFIS可以提升因子分解类模型的精度(AUC和Logloss)。该方法简单有效,得到KDD评委的高度认可,得到3/2/2的分数,其中meta review的评价是:”Overall the paper presents a novel idea, it is well written and the evaluation is very thorough”。

该工作已经公开https://arxiv.org/abs/2003.11235。

成为VIP会员查看完整内容
12

相关内容

【SIGIR2020】LightGCN: 简化和增强图卷积网络推荐
专知会员服务
73+阅读 · 2020年6月1日
【CVPR2020-百度】用于视觉识别的门控信道变换
专知会员服务
13+阅读 · 2020年3月30日
从模型到应用,一文读懂因子分解机
AI100
10+阅读 · 2019年9月6日
基于深度交叉特征的推荐系统
微信AI
9+阅读 · 2019年2月1日
KDD 2018 | 推荐系统特征构建新进展:极深因子分解机模型
微软研究院AI头条
4+阅读 · 2018年8月22日
已删除
AI科技评论
4+阅读 · 2018年8月12日
已删除
将门创投
9+阅读 · 2017年7月28日
Adaptive Neural Trees
Arxiv
4+阅读 · 2018年12月10日
VIP会员
相关主题
最新内容
美军MAVEN项目全面解析:算法战架构
专知会员服务
8+阅读 · 今天8:36
从俄乌战场看“马赛克战”(万字长文)
专知会员服务
6+阅读 · 今天8:19
最新“指挥控制”领域出版物合集(16份)
专知会员服务
13+阅读 · 4月12日
面向军事作战需求开发的人工智能(RAIMOND)
专知会员服务
19+阅读 · 4月12日
远程空中优势:新一代超视距导弹的兴起
专知会员服务
4+阅读 · 4月12日
大语言模型溯因推理的统一分类学与综述
专知会员服务
5+阅读 · 4月12日
相关VIP内容
【SIGIR2020】LightGCN: 简化和增强图卷积网络推荐
专知会员服务
73+阅读 · 2020年6月1日
【CVPR2020-百度】用于视觉识别的门控信道变换
专知会员服务
13+阅读 · 2020年3月30日
相关资讯
从模型到应用,一文读懂因子分解机
AI100
10+阅读 · 2019年9月6日
基于深度交叉特征的推荐系统
微信AI
9+阅读 · 2019年2月1日
KDD 2018 | 推荐系统特征构建新进展:极深因子分解机模型
微软研究院AI头条
4+阅读 · 2018年8月22日
已删除
AI科技评论
4+阅读 · 2018年8月12日
已删除
将门创投
9+阅读 · 2017年7月28日
微信扫码咨询专知VIP会员