阅读笔记-2022-Enhancing Sequential Recommendation with Graph Contrastive Learning

阅读笔记-Enhancing Sequential Recommendation with Graph Contrastive Learning

• paper：[2205.14837] Enhancing Sequential Recommendation with Graph Contrastive Learning (arxiv.org)

Motivations

• 现有的方法将每个用户的交互序列进行建模，并且只利用了序列中的局部 (local) 上下文信息。这忽略了具有相似行为模式的用户之间的相关性；
• 用户行为数据非常稀疏，先前的方法通常只使用 item 预测任务来训练推荐模型。由于数据稀疏问题，这种方式不能学习适当的序列表示；
• 序列推荐模型通常基于隐式反馈序列建立，隐式反馈序列中可能包含噪声信息

Challenges

• 如何建模所有用户的交互信息从而获得全局上下文信息？
• 如何缓解数据稀疏性？
• 如何削弱噪声的影响？

Method

1. 问题定义

• item 集合：$\mathbf{V}$ , 用户集合： $\mathbf{U}$ , 交互序列： $\mathbf{D}$ ；
• 对于每个用户 $u\in \mathbf{U}$, 使用 $\mathbf{S}=\{v_1,v_2,...,v_n\}$ 来表示它的交互序列，其中$v_t$ 表示用户 $u$ 的第 $t$ 个交互的 item，$n$ 表示该用户交互了多少个item ；
• 嵌入表示：
  • 用户 $u$ 的embedding 表示为：${\mathbf{P}}_u\in R^{1\times d}$
  • item $i$ 的embedding 表示为： ${\mathbf{e}}_i\in R^{1\times d}$
  • 序列 $\mathbf{S}$ 的初始embedding 表示为： ${\mathbf{E}}_S^{(0)}\in R^{n\times d}$ , 其中 ${\mathbf{E}}_S^{(0)}$ 中的第$t$ 行表示 $\mathbf{S}$ 中的第 $t$ 个节点的 embedding
  • 所有item的embedding表示为：$\mathbf{E}\in R^{|\mathbf{V}|\times d}$
• 使用 $\mathbf{D}$ 构建一个加权的 item transition 图 $\mathbf{G}$，提供了使用所有用户行为序列构建成的 item transition模式的全局视图，如下图所示：

图1. 一个item transition图示例

• 图 $\mathbf{G}$ 的构建遵从以下策略，以序列 $\mathbf{S}$ 为例：

  • 对于每个 item $v_t\in \mathbf{S}$ ，如果在图$\mathbf{G}$ 中 $v_t$ 和 $v_{(t+k)}$ 之间存在边，就更新该边的权重为：$w(v_t,v_{(t+k)})\leftarrow w(v_t,v_{(t+k)})+\frac{1}{k}$ , 否则就将 $v_t$ 和 $v_{(t+k)}$ 之间的边权重设为$\frac{1}{k},k\in \{1,2,3\}$, 其中 $\frac{1}{k}$ 表示目标节点$v_t$ 对于第 $k$ 跳邻居 $v_{t+k}$ 的重要性。[采取了何向南老师的lightgcn中的策略]
  • 将图中的各条边上的权重进行归一化：

  $$\hat{w}(v_t,v_j)=w(v_t,v_j)(\frac{1}{deg(v_i)}+\frac{1}{deg(v_j)})$$

  其中 $deg(.)$ 表示图中节点的度，注意这里的图是无向图

2. 模型GCL4SR

• Graph augmented sequence representation learning

  • Graph-based Augmentation

    给定加权转移图 $\mathbf{G}$，通过数据增广为一个交互序列 $\mathbf{S}$ 构造两个增广图视图。在这项工作中，使用的是[Hamilton et al., 2017] 中的高效邻域采样方法，从给定序列的大型过渡图生成增强图视图。具体来说，我们将每个节点v∈S作为中心节点，设置采样深度M为2，每步采样大小N为20，对G中的邻居进行交互采样。在抽样过程中，我们不考虑边的权重，对节点进行均匀抽样，然后在G中保留被抽样节点之间的边及其权重。

    对于一个特定的序列S，采用基于图的增广后，我们可以得到两个增广图视图：$G_S^{{}^{\prime }}=(V_S^{{}^{\prime }},E_S^{{}^{\prime }},A_S^{{}^{\prime }})$ 和 $G_S^{"}=(V_S^{"},E_S^{"},A_S^{"})$ , 其中$V_S^{{}^{\prime }},E_S^{{}^{\prime }},A_S^{{}^{\prime }}$ 分别表示节点的集合、边的集合和图 $G_S^{{}^{\prime }}$ 的邻接矩阵，注意$G_S^{{}^{\prime }}$ 和 $G_S^{"}$ 都是图$G$ 的子图，$A_S^{{}^{\prime }},A_S^{"}$ 存储式(1)中定义的边的归一化权值

  • Shared Graph Neural Networks

    根据g [Hassani and Khasahmadi, 2020]，使用两个具有共享参数的图神经网络对$G_S^{{}^{\prime }}$ 和 $G_S^{"}$ 进行编码。以$G_S^{{}^{\prime }}$ 为例，在图神经网络的第 $t$ 层的消息传递和聚合公式如下：

  $$\begin{gathered} a_{v_i}^{(t)}=Aggregat{e}^{(t)}(\{h_{v_j}^{(t-1)}:v_j\in N_{v_i}^{{}^{\prime }}\}), \\ {h}_{v_i}^{(t)}=Combin{e}^{(t)}(a_{v_i}^{(t)},h_{v_i}^{(t-1)}) \end{gathered}$$

  ​ 经过多层信息传播可以得到图 $G_S^{{}^{\prime }}$ 和 $G_S^{"}$ 的embedding $H_s^{{}^{\prime }}\in R^{n\times d}$ 和 $H_s^{"}\in R^{n\times d}$

  ​ 在本工作中，这两个gnn的实现如下。在第一层，使用图神经网络(GCN)利用增广图 的加权邻接矩阵融合节点信息。然后，进一步叠加一个GraphSage层，该层使用平 均池来聚合增广图中的高阶邻域信息。

  • Graph Contrastive Learning Objective

​ 使用以下目标函数来区分相同交互序列的增广表示与其他增广表示：
$$L_{GCL}(S)=\sum _{S\in D}-log\frac{exp(cos(z_S^{{}^{\prime }},z_S^{"})/\tau )}{{\sum }_{K\in D}exp(cos(z_S^{{}^{\prime }},z_S^{"})/\tau )}$$
​ 其中 $z_S^{{}^{\prime }}$ 和 $z_S^{"}$ 是经过pooling后的$H_s^{{}^{\prime }}$ 和 $H_s^{"}$。$cos(.)$ 表示的是余弦相似度计算。$\tau$ 是 超参数，此处设置为0.5。

• User-specifific gating

​ 由于每个用户可能只对 item 的某些特定属性感兴趣，因此全局上下文信息应该是特定于 用户的。根据g [Ma et al., 2019]，设计了以下特定于用户的控制机制，以捕获根据用户 的个性化偏好定制的全局上下文信息：
$${\mathbf{Q}}_S^{{}^{\prime }}={\mathbf{H}}_S^{{}^{\prime }}\otimes \sigma ({\mathbf{H}}_S^{{}^{\prime }}{\mathbf{W}}_{g_1}+{\mathbf{W}}_{g_2}{\mathbf{P}}_u^T)$$
​ 其中，${\mathbf{W}}_{g_1}\in R^{d\times 1},{\mathbf{W}}_{g_2}\in R^{L\times d}$, $\sigma$ 是 sigmoid 函数，$\otimes$ 是逐元素相乘，$p_u$ 表示用户 的偏好。相似地，可以通过该公式计算 $G_s^{"}$的全局上下文信息 ${\mathbf{Q}}_S^{"}$

• Basic sequence encoder

​ 除了序列的图增广表示外，我们还采用传统的序列模型对用户交互序列进行编码。选择SASRec [Kang and McAuley, 2018]作为骨干模型，它堆叠Transformer编码器[Vaswani等人，2017]来建模用户交互序列。给定第$(l-1)$层的节点表示$H^{l-1}$，则第 $l$ 层Transformer编码器的输出如下:
$$\begin{gathered} {\mathbf{H}}^l=FFN(Concat(hea{d}_1,...,hea{d}_h){\mathbf{W}}^h) \\ hea{d}_i=Attention({\mathbf{H}}^{l-1}{\mathbf{W}}_i^Q,{\mathbf{H}}^{l-1}{\mathbf{W}}_i^K,{\mathbf{H}}^{l-1}{\mathbf{W}}_i^V) \end{gathered}$$

$$Attention(\mathbf{Q}，\mathbf{K},\mathbf{V})=softmax(\frac{\mathbf{Q}{\mathbf{K}}^T}{\sqrt{d}})\mathbf{V}$$

• Prediction layer

  我们将表示 ${\mathbf{Q}}_s^{{}^{\prime }}$ 和 ${\mathbf{Q}}_s^{"}$ 连接起来，Transformer编码器 ${\mathbf{H}}^l$ 的最后一层的embedding计算如下:

$$\mathbf{M}=AttNet(Concat({\mathbf{Q}}_S^{{}^{\prime }},{\mathbf{Q}}_S^{"},{\mathbf{H}}^l){\mathbf{W}}^T)$$

​ 那么，给定长度为n的用户交互序列S，在(n+ 1)第一步，用户与物品的交互概率可以定 义为:
$${\hat{y}}^{(S)}=softmax(\mathbf{M}{\mathbf{E}}^T)$$

• Multi Task Learning

$$L_{main}=-\sum _{S_u\in D}\sum _{k=1}^{|S_u|-1}log({\hat{y}}^{(s_u^{1:k})}(v_u^{k+1}))$$

$$L=L_{main}+\sum _{S_u\in D}\sum _{k=1}^{|S_u|-1}{\lambda }_1{L}_{GCL}(s_u^{1:k})+{\lambda }_2{L}_{MM}(s_u^{1:k})$$

Result

• 数据集

​ 实验在Amazon评论数据集和Goodreads评论数据集上进行:

• 总体表现

• 消融实验

  • 各个部分的重要性

• 参数敏感性研究

​ 如图3(a)所示，抽样规模越大，推荐性能越好。对于采样深度，我们可以注意到的最佳 设置M在诗词和phone数据集上分别为4和3。此外，将d设为可获得最佳性能在诗词和 电话数据集上分别为64和96。

• 序列编码器的影响

表4显示了不同序列编码器下的GCL4SR的性能，以及骨干模型的性能。可以看到，GCL4SR-HGN、GCL4SR-GRU和GCL4SR-SAS的性能优于相应的骨干编码器模型。这说明图增强序列表示学习模块是一个通用模块，可以帮助提高现有序列推荐方法的性能。此外，GRU4Rec和SASRec的性能优于GCL4SR-HGN。这说明基本序列编码器在GCL4SR的性能中占主导地位，图增强序列表示学习模块是一个补充部分，有助于进一步提高推荐性能。

References

[Hamilton et al., 2017] William L Hamilton, Rex Ying, and Jure Leskovec. Inductive representation learning on large graphs. In NeurIPS’17, pages 1025–1035, 2017.

[Hassani and Khasahmadi, 2020] Kaveh Hassani and Amir Hosein Khasahmadi. Contrastive multi-view representation learning on graphs. In ICML’20, pages 4116–4126, 2020.