IJCAI2019|深层自注意力网络在序列推荐中的应用
Feature-level Deeper Self-Attention Network for Sequential Recommendation
Tingting Zhang, Pengpeng Zhao, Yanchi Liu, Victor S. Sheng, Jiajie Xu, Deqing Wang, Guanfeng Liu and Xiaofang Zhou
Soochow University, Zhejiang Lab, Rutgers University, University of Central Arkansas, Beihang University, Macquarie University, The University of Queensland
https://www.ijcai.org/Proceedings/2019/0600.pdf
序列推荐，旨在给用户推荐在不久的将来可能会发生交互行为的商品。这种推荐在很多互联网应用中越来越重要。
现有方法通常只考虑商品之间的转换模式，忽略了商品特征之间的转换模式。只利用商品层次的序列不能揭示完整序列模式的特性，显式和隐式特征层次的序列有助于提取完整序列的模式。
这篇文章提出一种新的方法，特征层次的深层自注意力网络（FDSA），用于序列推荐。FDSA首先通过一种通常的注意力机制，利用不同权重将多种异质商品特征集成为特征序列。
然后，FDSA基于商品层面序列和特征层面序列，分别利用独立的自注意力模块对商品转换模式和特征转换模式进行建模。
接下来，将这两个模块的输出进行集成，得到一个全连接层，然后用于推荐下一个商品。
大量实验结果表明，考虑特征之间的转换关系可以显著提升序列推荐的性能。
部分现有方法如下
这些方法基于马尔可夫链或者循环神经网络，或者长短时记忆网络和门限循环单元。
也有一些模型考虑了自注意力网络。
下面是这篇文章的主要贡献
目前用于序列推荐的模型及缺陷如下
问题描述如下
这篇文章所提模型的整体框架如下
注意力网络定义如下
基于特征的自注意力模块细节如下
全连接层简介如下
目标函数定义如下
数据集统计信息如下
数据集简介如下
衡量指标及参数设置如下
参与对比的一些方法有以下几种
几种方法的效果对比如下
不同嵌入层单元个数的影响如下
我是分割线
您可能感兴趣
AAAI2020|深度学习在表格分析中的应用
NIPS论文系列|复数域RNN,深层生成模型,DRL在MDP中的应用(已开源)
AAAI2020|结合时空信息的分层注意力网络在大规模社交网络中的应用
ICDE2020|基于深度学习的关系抽取
只有正样本和无标签样本时如何构建分类器
ICDE2020|图卷积网络在价格感知推荐中的应用
WSDM2020|基于强化学习的多轮对话推荐系统(EAR, 即将开源)
WWW2020|如何利用未来数据协助训练基于会话的推荐(GRec)
ICML2018|基于自注意力的序列推荐模型SASRec(已开源)
IJCAI2018|分层时空LSTM在位置预测中的应用(HST-LSTM)
IJCAI2019|基于会话和注意力机制的CTR预估模型DSIN(已开源)
AISTATS2018|密歇根大学提出新型在线boosting算法用于多标签排序(已开源)
AAAI2020|一种新型高效兼容多行为的推荐系统模型EHCF(已开源)
ICML2007|深度学习用于协同过滤的开篇作之一(出自深度学习鼻祖之一Hinton)
SIGIR2019|基于BERT的深度学习模型在信息检索中的应用(已开源)
SIGIR2019|深度学习如何更好地用于学习排序(LTR)(已开源)
SIGIR2019|利用DeepSHAP来解释神经检索模型(已开源)
KDD2018|基于GBM的动态定价回归模型
KDD2018|超越deepfm的CTR预估模型深层兴趣网络DIN(已开源)
RecSys2019|优于DeepFM和XDeepFM的CTR模型FiBiNET
SIGIR2018|选择性GBDT(SelGB)用于排序学习(已开源)
IJCAI2019|基于对抗变分自编码的协同过滤框架VAEGAN
聊聊CatBoost
聊聊XGBoost CatBoost LightGBM RF GBDT
顶会中深度学习用于CTR预估的论文及代码集锦 (3)
ICML 2018 深度学习论文及代码集锦(5)
深度学习用于文本摘要的论文及代码集锦
深度学习用于机器翻译的论文及代码集锦
深度学习用于序列标注中的论文及代码集锦
深度学习在推荐系统中的应用及代码集锦(4)
深度学习在OCR中的应用论文及代码集锦 (2)