Personalized Bundle Recommendation in Online Games 阅读笔记

Personalized Bundle Recommendation in Online Games 阅读笔记

CIKM 2020

Qilin Deng, Kai Wang, Minghao Zhao, Zhene Zou, Runze Wu, Jianrong Tao, Changjie Fan and Liang Chen.

Netease Game and Sun Yat-Sen University

存在挑战

1. 数据稀疏和冷启动问题。
2. Bundle的泛化。
3. Bundle与Bundle之间的相关性。

主要贡献

1. 在工业界部署，通过在线A/B测试，提高了60%转化率和15%交易额。

   A/B 测试，让一部分用户使用A方案，一部分用户使用B方案，统计对比不同指标，以判断不同方案的优劣。

2. 采用了可区分的消息传递框架，区分对待user-item,user-bundle,bundle-item三种关联。

模型设计

整体是GCN-based模型。

1. 相较于传统的user-item二部图，构造了user-item-bundle三部图
   $$\mathbf{A}=\left[\begin{array}{ccc}0& {\mathbf{A}}_{ui}& {\mathbf{A}}_{ub}\\ {\mathbf{A}}_{ui}^T& 0& {\mathbf{A}}_{bi}^T\\ {\mathbf{A}}_{ub}^T& {\mathbf{A}}_{bi}& 0\end{array}\right]$$

2. 可区分的消息传递

   $${\mathbf{h}}_i^{l+1}=\sigma \left({\mathbf{W}}^l{\mathbf{h}}_i^l+\sum _{r\in \mathcal{R}}\sum _{j\in N_i^r}\frac{1}{c_{i,r}}{\mathbf{W}}_r^l{\mathbf{h}}_j^l\right)$$

3. 链路预测层

   • 类似NGCF，融合不同层GCN的表示

   $${\mathbf{h}}_u={\mathbf{h}}_u^1\Vert \cdots \Vert {\mathbf{h}}_u^L,{\mathbf{h}}_i={\mathbf{h}}_i^1\Vert \cdots \Vert {\mathbf{h}}_i^L,{\mathbf{h}}_b={\mathbf{h}}_b^1\Vert \cdots \Vert {\mathbf{h}}_b^L$$

   • 双层MLP得到预测打分
     $$\begin{array}{c}{\hat{p}}_{ui}=\mathrm{sigmoid}\left({\mathbf{W}}_i^2\mathrm{ReLU}\left({\mathbf{W}}_i^1\left[{\mathbf{h}}_u\Vert {\mathbf{h}}_i\right]+{\mathbf{b}}_i^1\right)+{\mathbf{b}}_i^2\right)\\ {\hat{p}}_{ub}=\mathrm{sigmoid}\left({\mathbf{W}}_b^2\mathrm{ReLU}\left({\mathbf{W}}_b^1\left[{\mathbf{h}}_u\Vert {\mathbf{h}}_b\right]+{\mathbf{b}}_b^1\right)+{\mathbf{b}}_b^2\right)\end{array}$$

模型训练

• Loss为BPRloss+正则化项
  $$L_{BPR}(u,p,n)=-\ln \sigma \left({\hat{p}}_{up}-{\hat{p}}_{un}\right)+\lambda \Vert \Theta {\Vert }_2^2$$

• 多任务学习
  $$L_1=L_{BPR}\left(u,i^{+},i^{-}\right),L_2=L_{BPR}\left(u,b^{+},b^{-}\right)$$
  先优化L1，L1收敛之后再优化L2

  相当于L1是一种预训练

• 标签泄露问题

  原因：

  传统GCN在学习A和B之间有没有链接的时候，仍然使用了AB之间互相传递的信息。

  就好比，在不知道A和B是否认识的情况下，却让A和B开始对话了。而对话跟认识是一种强相关的行为，也就是对话这件事情，泄露了A和B认识的情况。

  解决方法：

  训练中采用小批次的方法。

  要预测A和B之间的关系前，先删除掉A和B之间的对话渠道，AB之间没有直接消息传递的情况下再进行预测。

• 模型最终推理
  $$\hat{p}={\hat{p}}_{ub}+\frac{1}{|b|}\sum _{i\in b}{\hat{p}}_{ui}$$
  user对Bundle的预测打分组成为，user-bundle的预测打分和user对bundle中每个item打分的平均分。

实验部分

• 数据集

  Steam,Youshu,Netease,Justice

• 对比方法

  BPR, BundleBPR, DAM, GCN-Bi/Ti- /B_, BundleNet- /B_

• 评估指标

  MRR,Recall,NDCG

• 实验结果

  

• 消融分析

  作者主要对三种设计进行了分析

  分别是

  设计	解释	作用
  REL	Relational GCN,也就是可区分消息传递，对每种交互分别计算，再组合	跟具体数据集有关
  MTL	多任务学习，同时学习用户对items和bundles的偏好	跟具体数据集有关
  MBT	小批次训练，解决标签泄露问题	对网易云和逆水寒数据提升巨大，其他数据也有提升

一些感悟

• 之前看的paper大多是聚集item的embedding得到bundle embedding，这篇paper提到整合打分也是可行的，但有一点需要注意的是，如果整合打分的话，需要像该paper一样，先用sigmoid把打分都整合到同一个尺度下，再进行整合。

• 新接触到一种MRR的指标度量方法，MRR只关注列表中的第一个相关元素。

  猜想与paper中图一的GUI有关，图中GUI只会展示一个Bundle。

  

• 学习到一种新的思路，先学习user-item交互，收敛之后，保存下来，作为预训练好的embedding来进行后续user bundle交互的学习。

• 标签泄露问题对模型的有效学习有着较大影响。

• 一个模型就给实际线上业务带来了15%的成交额增长，被推荐系统的产业价值震撼到了。