WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用

Attentive Sequential Models of Latent Intent for Next Item Recommendation

Md Mehrab Tanjim, Congzhe Su, Ethan Benjamin, Diane Hu, Liangjie Hong,  Julian McAuley

UC San Diego, Etsy 

http://cseweb.ucsd.edu/~jmcauley/pdfs/www20.pdf

在电子商务中,用户的意向具有多样性,进而用户会以多种方式跟多种商品发生交互,比如点击,加购物车,收藏,购买等。

为了给用户更好的推荐商品,需要考虑用户的历史行为,同时捕捉用户的意图很重要。然而,这些意图是隐式的,因为只能观察到用户的行为,而不是潜在的意图。

为了发现隐含意图,并且用于推荐,这篇文章提出一种基于隐含意图的注意力序列模型(ASLI)。该模型利用子注意力层从用户行为历史中学习商品之间的相似性,然后利用时序卷积网络根据用户在某类商品中的行为来得到用户意图的隐含表示。利用这种表示可以指导注意力模型来预测下一个商品。

实验结果表明,作者们所提模型可以捕捉用户行为和偏好的动态变化,在两个主要电子商务平台,Etsy和阿里,的数据集上取得了STOA效果。

一些符号标记如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第1张图片

问题定义如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第2张图片

自注意力网络定义如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第3张图片

时间卷积网络定义如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第4张图片

前向网络定义如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第5张图片

注意力转移示例如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第6张图片

模型结构图示如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第7张图片

嵌入层细节描述如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第8张图片

目标函数定义如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第9张图片

数据集信息统计如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第10张图片

衡量指标有以下两种

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第11张图片

参与对比的几种模型有以下几个

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第12张图片

下面是实验环境和参数设置

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第13张图片

几种方法在多个数据集上的效果对比如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第14张图片

不同的注意力所带来的影响如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第15张图片

下面是kernel size对模型效果的影响

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第16张图片

几种方法的训练时间对比如下

WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用_第17张图片


              我是分割线


您可能感兴趣

WWW2015|深度学习在推荐系统跨域用户建模中的应用

ICDE2020|多图卷积网络在草药推荐中的应用

ATM|注意力转移模型在预测下一个商品中的应用

IJCAI2019|深层自注意力网络在序列推荐中的应用

AAAI2020|深度学习在表格分析中的应用

NIPS论文系列|复数域RNN,深层生成模型,DRL在MDP中的应用(已开源)

AAAI2020|结合时空信息的分层注意力网络在大规模社交网络中的应用

ICDE2020|基于深度学习的关系抽取

只有正样本和无标签样本时如何构建分类器

ICDE2020|图卷积网络在价格感知推荐中的应用

WSDM2020|基于强化学习的多轮对话推荐系统(EAR, 即将开源)

WWW2020|如何利用未来数据协助训练基于会话的推荐(GRec)

ICML2018|基于自注意力的序列推荐模型SASRec(已开源)

IJCAI2018|分层时空LSTM在位置预测中的应用(HST-LSTM)

IJCAI2019|基于会话和注意力机制的CTR预估模型DSIN(已开源)

AISTATS2018|密歇根大学提出新型在线boosting算法用于多标签排序(已开源)

AAAI2020|一种新型高效兼容多行为的推荐系统模型EHCF(已开源)

ICML2007|深度学习用于协同过滤的开篇作之一(出自深度学习鼻祖之一Hinton)

SIGIR2019|基于BERT的深度学习模型在信息检索中的应用(已开源)

SIGIR2019|深度学习如何更好地用于学习排序(LTR)(已开源)

SIGIR2019|利用DeepSHAP来解释神经检索模型(已开源)

KDD2018|基于GBM的动态定价回归模型

KDD2018|超越deepfm的CTR预估模型深层兴趣网络DIN(已开源)

RecSys2019|优于DeepFM和XDeepFM的CTR模型FiBiNET

SIGIR2018|选择性GBDT(SelGB)用于排序学习(已开源)

IJCAI2019|基于对抗变分自编码的协同过滤框架VAEGAN

聊聊CatBoost

聊聊XGBoost CatBoost LightGBM RF GBDT

顶会中深度学习用于CTR预估的论文及代码集锦 (3)

ICML 2018 深度学习论文及代码集锦(5)

深度学习用于文本摘要的论文及代码集锦

深度学习用于机器翻译的论文及代码集锦

深度学习用于序列标注中的论文及代码集锦

深度学习在推荐系统中的应用及代码集锦(4)

深度学习在OCR中的应用论文及代码集锦 (2)

你可能感兴趣的:(WWW2020|基于隐含意图的注意力序列模型在下一个商品推荐中的应用)