KDD2019|基于注意力的深度学习如何实时预测购买还是浏览
Buying or Browsing? : Predicting Real-time Purchasing Intent using Attention-based Deep Network with Multiple Behavior
Long Guo, Lifeng Hua, Rongfei Jia, Binqiang Zhao, Xiaobo Wang, Bin Cui
Alibaba Group, Peking University
https://dl.acm.org/doi/pdf/10.1145/3292500.3330670?download=true
电子商务平台是人们经常光顾的场所，在电子商务平台上可以寻找、比较并最终购买所需要的产品。
在电子商务中，有一个基本问题，即如何才能精准的预测用户的购买意向，为了预测用户的购买意向，非常重要的部分即为理解用户的潜在需求，只有比较好的理解了用户的需求所在，才能为商家和客户提供更好的服务。但是，很多工作都无法高精度并且实时地预测用户的购买意向，原因在于这些工作受限于比较传统的浏览交互行为的表示能力。
这篇文章提出了一种新的端到端深度网络，深度意图预测网络，简称DIPN，该网络能够实时预测用户的购买意向。该网络除了利用传统的浏览交互行为，还收集一种新的用户交互行为，即触碰交互行为，通过这种行为可以捕获更细粒度的实时用户特征。
为了对这些行为进行比较高效的比较，本文提出了一种分层注意力机制，其中，底层的注意力层集中在每个行为序列中的内部关系，顶层的注意力层用于学习不同的行为序列之间的关系。另外，作者们利用多任务学习来训练DIPN，进而将不同的用户行为模式更好地区分开来。
在大规模工业级数据集上的实验表明，DIPN显著优于基准方案。值得注意的是，只利用传统的浏览交互行为序列时，DIPN的AUC相对SOTA高了18.96%。DIPN已经部署在淘宝的业务系统中。
每个用户每天发生的浏览、点击、滑动次数统计示例如下
这篇文章的主要贡献如下
购买意图预测相关的工作如下
购买行为预测跟序列分类之间的关系如下
多任务学习的分类及描述如下
滑动交互行为主要包含以下三块特征
滑动和点击交互行为数据示例如下
本文所涉及的特征有以下几类
1. 滑动交互特征
2. 点击交互特征
3. 浏览交互特征
4. 用户历史特征
其中C.F. A.F. P.F.分别表示
5. 用户画像特征
网络结构整体示例如下
其中嵌入层的简介如下
本文所利用的RNN的细节描述如下
三种行为融合的方式采取后融合
内部注意力机制如下
交叉注意力计算方式如下
交叉注意力机制图示如下
多任务层的细节如下
该网络实际部署时借助了边缘计算
总体过程简述如下
这种方式的优势在于
边缘计算下的系统概览图示如下
数据集信息统计如下
参与对比的几种方法简介如下
部分实验细节如下
几种方法的auc对比如下
其中GBDT对应的论文为
RecSys Challenge 2015: Ensemble Learning with Categorical Features, RecSys 2015
RNN+DNN对应的论文为
Predicting purchasing intent: Automatic Feature Learning using Recurrent Neural Networks, SIGIR 2018
多任务学习的影响如下
不同类型数据源的影响如下
A/B测试考虑的三种情形如下
评价指标如下
针对模型策略，发券原则如下
结果对比如下
我是分割线
您可能感兴趣
AAAI2020|一种新型高效兼容多行为的推荐系统模型EHCF(已开源)
AAAI2020|个性和情绪集成的注意力模型在推荐系统中的应用
ICML2007|深度学习用于协同过滤的开篇作之一(出自深度学习鼻祖之一Hinton)
SIGIR2019|基于BERT的深度学习模型在信息检索中的应用(已开源)
SIGIR2019|基于注意力机制的新型深度学习模型(采莓树模型BIRD,已开源)
SIGIR2019|深度学习如何更好地用于学习排序(LTR)(已开源)
SIGIR2019|利用DeepSHAP来解释神经检索模型(已开源)
SIGIR2019|胶囊网络来解释你喜欢什么不喜欢什么(已开源)
KDD2018|基于GBM的动态定价回归模型
KDD2018|超越deepfm的CTR预估模型深层兴趣网络DIN(已开源)
RecSys2019|优于DeepFM和XDeepFM的CTR模型FiBiNET
SIGIR2018|选择性GBDT(SelGB)用于排序学习(已开源)
AAAI2018|斯坦福大学提出并开源增强生成式模型
ijcai2017|CTR经典模型DeepFM,FNN,PNN,W&D,LR,FM对比(哈工大诺亚方舟提出CTR模型)
ICML2019|一种基于强化学习的推荐系统(GAN用户模型,佐治亚理工学院联合蚂蚁金服提出且已开源)
ICML2018|GBDT中如何寻找影响较大样本(普林斯顿大学联合Yandex提出并开源)
IJCAI2019|基于对抗变分自编码的协同过滤框架VAEGAN
聊聊CatBoost
聊聊XGBoost CatBoost LightGBM RF GBDT
IJCAI2019|新型特征增广GBDT--AugBoost(已开源)
IJCAI2019|清华大学提出并开源新型梯度提升决策树(梯度提升分段线性回归树)
新型梯度提升决策树GBDT-SPARSE(谷歌微软FaceBook加州大学联合提出)
ICML2019|深度学习鼻祖之一Bengio提出并开源图马尔科夫神经网络
GBDT,LR,深度学习如何联合发力(以推荐系统和游戏为例)
大规模GBDT系统应用场景及效果对比(LightGBM,XgBoost,DimBoost等)
新型在线预测模型DeepGBM(基于GBDT扩展的深度学习框架)
顶会中深度学习用于CTR预估的论文及代码集锦 (3)
ICML 2018 深度学习论文及代码集锦(5)
深度学习用于文本摘要的论文及代码集锦
深度学习用于机器翻译的论文及代码集锦
深度学习用于序列标注中的论文及代码集锦
深度学习在推荐系统中的应用及代码集锦(4)
深度学习在OCR中的应用论文及代码集锦 (2)