WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)

Gated Attentive-Autoencoder for Content-Aware Recommendation

Chen Ma, Peng Kang, Bin Wu, Qinglong Wang, Xue Liu

McGill University, Zhengzhou University

http://xxx.itp.ac.cn//pdf/1812.02869.pdf

互联网服务以及移动设备的快速发展使得个性化商品推荐的需求非常强烈。但是,由于用户和商品增长速度很快,个性化推荐系统仍然面对几个挑战性问题,稀疏的隐式反馈比较难利用;异构数据比较难融合。

作者们为了解决这几个挑战,提出一种门限注意力自编码模型(GATE),它能够学习商品内容以及二值评价的融合隐含表示,该网络结构基于神经门限机制。

基于融合的表示,该模型能够利用商品之间的近邻关系,这有助于推理用户偏好。该模型在自编码中融合了单词级别和近邻级别的注意力模块。单词级别的注意力从商品词序列中学习商品的隐含表示,对于比较有用的单词赋予比较大的注意力权重。近邻级别的注意力基于加权的方式考虑商品的近邻,进而学习商品近邻的隐含表示。

作者们在四个真实数据集上进行了实验,并跟几个STOA方法利用多个验证方法进行对比。实验结果不仅表明该模型在topN推荐中的有效性,还对注意力模块提供了可解释的结果。

GATE网络结构图示如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第1张图片

这篇文章的主要贡献如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第2张图片

大家所熟知的电影推荐问题图示如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第3张图片

目前已有的几种主流方法有以下几个

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第4张图片

基于自编码以及内容注意力的模型结构图示如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第5张图片

自编码的结构,编码过程,解码过程以及目标函数形式如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第6张图片

基于单词的注意力模块背景及描述如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第7张图片

基于单词的注意力模块图示如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第8张图片

门限层的结构图示及函数表示如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第9张图片

近邻注意力模块描述如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第10张图片

近邻注意力模型的细节描述如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第11张图片

损失函数及预测方式如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第12张图片

数据集及评估方式如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第13张图片

参数设置如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第14张图片

参与对比的几种方法有

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第15张图片

几种方法的效果对比如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第16张图片

图表形式的效果对比如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第17张图片

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第18张图片

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第19张图片

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第20张图片

针对组件的ab实验效果如下

WSDM2019|门限注意力自编码在内容感知推荐中的应用(已开源)_第21张图片

代码地址

https://github.com/allenjack/GATE


              我是分割线


您可能感兴趣

WWW2019|对偶图注意力网络在推荐系统中的应用(已开源)

KDD2019|个性化注意力在新闻推荐中的应用

SIGIR2020|序贯元学习方法在重新训练推荐系统中的应用(已开源)

WSDM2019|动态图注意力网络在基于会话的社交推荐中的应用

IJCAI2017|基于注意力机制的FM模型AFM在学习特征交互权重中的应用(已开源)

KDD2020|自动特征交互选择(AutoFIS)分解机模型在CTR预估中的应用(已开源)

SIGIR2020|LightGCN图卷积网络在推荐系统中的应用(已开源)

WWW2019|图神经网络在社交推荐中的应用

AAAI2019|自注意力度量学习在下一个商品推荐中的应用

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用

WWW2015|深度学习在推荐系统跨域用户建模中的应用

ICDE2020|多图卷积网络在草药推荐中的应用

ATM|注意力转移模型在预测下一个商品中的应用

IJCAI2019|深层自注意力网络在序列推荐中的应用

AAAI2020|深度学习在表格分析中的应用

NIPS论文系列|复数域RNN,深层生成模型,DRL在MDP中的应用(已开源)

AAAI2020|结合时空信息的分层注意力网络在大规模社交网络中的应用

ICDE2020|基于深度学习的关系抽取

只有正样本和无标签样本时如何构建分类器

ICDE2020|图卷积网络在价格感知推荐中的应用

WSDM2020|基于强化学习的多轮对话推荐系统(EAR, 即将开源)

WWW2020|如何利用未来数据协助训练基于会话的推荐(GRec)

ICML2018|基于自注意力的序列推荐模型SASRec(已开源)

IJCAI2018|分层时空LSTM在位置预测中的应用(HST-LSTM)

IJCAI2019|基于会话和注意力机制的CTR预估模型DSIN(已开源)

AISTATS2018|密歇根大学提出新型在线boosting算法用于多标签排序(已开源)

AAAI2020|一种新型高效兼容多行为的推荐系统模型EHCF(已开源)

ICML2007|深度学习用于协同过滤的开篇作之一(出自深度学习鼻祖之一Hinton)

SIGIR2019|基于BERT的深度学习模型在信息检索中的应用(已开源)

SIGIR2019|深度学习如何更好地用于学习排序(LTR)(已开源)

SIGIR2019|利用DeepSHAP来解释神经检索模型(已开源)

KDD2018|基于GBM的动态定价回归模型

RecSys2019|优于DeepFM和XDeepFM的CTR模型FiBiNET

SIGIR2018|选择性GBDT(SelGB)用于排序学习(已开源)

IJCAI2019|基于对抗变分自编码的协同过滤框架VAEGAN

聊聊CatBoost

聊聊XGBoost CatBoost LightGBM RF GBDT

顶会中深度学习用于CTR预估的论文及代码集锦 (3)

ICML 2018 深度学习论文及代码集锦(5)

深度学习用于机器翻译的论文及代码集锦

你可能感兴趣的:(机器学习,深度学习,python,推荐系统,人工智能)