2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation

LightGCN

当前RS中的GCN工作没有进行彻底的消融实验,本文实验发现GCN的两项设计**[特征转化]和[非线性激活函数]**不适用于协调过滤。提出了LightGCN,只使用了GCN的邻居聚合,线性传播信息,然后加权每一层的嵌入得到最终的表示。

1 引言

CF的通用范式:①学习到用户和物品的隐含特征(嵌入/表示);②基于嵌入向量进行预测。

  • MF,直接将single id作为嵌入
  • SVD++,将历史交互物品id来表示user(一阶邻居)
  • 交互图,多阶邻居

NGCF中借鉴GCN的特征转化、非线性函数;但是原始GCN使用的节点是带有丰富特征的,而在user-item交互图中,只有id节点,没有丰富的特征,这些特征转化反而会有损模型。所以提出LightGCN.

2 先验

2.1 NGCF

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第1张图片

2.2 NGCF 经验性探究

对NGCF采取消融实验,探究非线性激活函数和特征转化的影响。将NGCF的最后组合方式改变,由concat改为sum,因为这样嵌入都是相同维度了。

  • NGCF-f,移去W1 W2
  • NGCF-n,移去激活函数
  • NGCF-fn,都移去

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第2张图片

3 模型

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第3张图片

3.1 LightGCN

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第4张图片

3.1.1 Light Graph Convolution

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第5张图片

3.1.2 Layer Combination and Model Prediction

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第6张图片

3.1.3 矩阵形式

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第7张图片

3.2 模型分析

3.2.1 和SGCN关系

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第8张图片

3.2.2 和APPNP关系

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第9张图片

3.2.3 二阶嵌入平滑

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第10张图片

3.3 模型训练

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第11张图片

4 实验

4.4 消融实验

4.4.1 层组合方式

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第12张图片

4.4.2 对称根号归一化

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第13张图片

4.4.3 平滑嵌入的分析

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation_第14张图片
结果表明,使用 light gcn,能让嵌入表更加平滑,更适合用于推荐。

6 结论和未来工作

LightGCN的优点:更容易训练、更好的泛化能力、更有效

近期趋势是利用辅助信息,而GCN在这些side info中建立了新的SOTA。

未来方向,个性化图层组合权重,对于不同用户,不同层结合权重不同,比如稀疏的用户可能需要来自高阶邻居的更多信号,而主动的用户需要的信号更少。

你可能感兴趣的:(推荐系统,推荐系统)