《Neural Collaborative Filtering》论文阅读笔记

本文的创新在于，使用神经网络框架来代替MF中的内积，将MF和MLP的线性以及非线性特点相结合，使用预训练参数来初始化模型，进一步提升模型性能。本文思路清晰，逻辑严谨，细节说明很到位，实验对比完整且比较有说服力，很值得学习。因此我将笔记整理出来分享一下，如果有不对的地方，多多包涵，敬请批评指出。

摘要

本文致力于使用基于神经网络的技术来解决推荐中的关键问题–协同过滤-基于隐式反馈(保持原评分-显式反馈，将原评分大于0的置1-隐式反馈)。本文提出了一种简称NCF(Neural network based Collaborative Filtering)的通用神经框架来代替内积，以从数据中学习任意的函数。为了更好地建模非线性关系，本文提出利用多层感知机来学习user-item交互函数。

• Jaccard coefficient

$$J(A,B)=\frac{|A\cap B|}{|A\cup B|}=\frac{|A\cap B|}{|A|+|B|-|A\cap B|}$$

• Jaccard distance

$$d_j(A,B)=1-J(A,B)=\frac{|A\cup B|-|A\cap B|}{|A\cup B|}=\frac{A\Delta B}{|A\cup B|}$$

Jaccard 距离越大，样本相似度越低

引言

推荐->矩阵分解->矩阵分解扩展方法->矩阵分解的不足之处(内积)->神经网络的表现

本文研究基于隐式反馈：

$y_{ui}=\{\begin{array}{ll}1,& \text{ if interaction (user }u,\text{ item }i)\text{ is observed; }\\ 0,& \text{ otherwise. }\end{array}$

本文的贡献

1. 本文提出了一种神经网络结构来建模users和items的潜在特征，并且还设计了一种基于神经网络的通用框架(NCF)来实现协同过滤。
2. 本文证明了MF是NCF的一个特例，利用一个多层感知机来赋予NCF更高层次的非线性能力。
3. 本文通过在两个真实数据集上的扩展实验，证明了NCF算法的有效性。

矩阵分解的限制

1(a)采用Jaccard coefficient计算相似度，为了解决这个限制，本文通过DNNs来学习这个交互函数。

神经协同过滤框架

输入是user和item的one-hot向量，然后再通过Embedding层得到user和item的潜在特征向量，然后再后续操作。

而本文提出了一种新的神经矩阵分解模型，该模型集成了NCF框架下的MF和MLP，结合了MF的线性能力以及MLP的非线性能力。

本文采用的是point-wise，未来工作可能会使用pair-wise。

NCF优化方法

• square loss

$$L_{sqr}=\sum _{(u,i)\in \mathcal{Y}\cup {\mathcal{Y}}^{-}}{w}_{ui}{\left(y_{ui}-{\hat{y}}_{ui}\right)}^2$$

其中$w_{ui}$表示样本权重，通常MF中$w_{ui}=1$

• probabilistic approach

似然函数

$$p\left(\mathcal{Y},{\mathcal{Y}}^{-}\mid \mathbf{P},\mathbf{Q},{\Theta }_f\right)=\prod _{(u,i)\in \mathcal{Y}}{\hat{y}}_{ui}\prod _{(u,j)\in {\mathcal{Y}}^{-}}\left(1-{\hat{y}}_{uj}\right)$$

取概率的负对数

$$\begin{array}{rl}L& =-\sum _{(u,i)\in \mathcal{Y}}\log {\hat{y}}_{ui}-\sum _{(u,j)\in {\mathcal{Y}}^{-}}\log \left(1-{\hat{y}}_{uj}\right)\\ & =-\sum _{(u,i)\in \mathcal{Y}\cup {\mathcal{Y}}^{-}}{y}_{ui}\log {\hat{y}}_{ui}+\left(1-y_{ui}\right)\log \left(1-{\hat{y}}_{ui}\right)\end{array}$$

其实这就是二分类任务中常用的交叉熵，也常被成为log loss

通用矩阵分解

$${\hat{y}}_{ui}=a_{\text{out}}\left({\mathbf{h}}^T\left({\mathbf{p}}_u\odot {\mathbf{q}}_i\right)\right)$$

$a_{out}$是激活函数，本文使用sigmoid，如果将$a_{out}$取自己，$h^T$是一个全为1的向量，那么这就是MF

多层感知机(MLP)

为了更好地建模user和item，不能只是简单地将两个向量进行拼接，因为这样并不能起到user和item之间的特征交互作用，为了解决这个问题，在拼接后的向量添加全连接层，因此使用多层感知机结构。

$$\begin{array}{rl}{\mathbf{z}}_1& ={\varphi }_1\left({\mathbf{p}}_u,{\mathbf{q}}_i\right)=\left[\begin{array}{c}{\mathbf{p}}_u\\ {\mathbf{q}}_i\end{array}\right]\\ {\varphi }_2\left({\mathbf{z}}_1\right)& =a_2\left({\mathbf{W}}_2^T{\mathbf{z}}_1+{\mathbf{b}}_2\right)\\ & \dots \dots \\ {\varphi }_L\left({\mathbf{z}}_{L-1}\right)& =a_L\left({\mathbf{W}}_L^T{\mathbf{z}}_{L-1}+{\mathbf{b}}_L\right)\\ {\hat{y}}_{ui}& =\sigma \left({\mathbf{h}}^T{\varphi }_L\left({\mathbf{z}}_{L-1}\right)\right)\end{array}$$

隐层激活函数可选：sigmoid，tanh，relu

• sigmoid ：sigmoid将数值规约到[0, 1]，但容易遇到饱和问题，当神经元的输出值接近0或者1的时候就会停止学习

• tanh：虽然tanh被大量使用，但它也只是一定程度上缓解了sigmoid的问题，因为它可以被视为另一种重新调整的sigmoid（$tanh(x/2)=2\sigma (x)-1)$）

• relu：我们更倾向于选择relu作为激活函数，relu从生物学角度来说是可行的，并且被证明是不饱和的

至于隐层神经元个数设置，本文采用金字塔结构，即 [32, 16, 8, 4, 2, 1]

通用矩阵分解和多层感知机的融合（NeuMF）

一种直接的方法是GMF和MLP共享Embedding，但这样可能会限制融合的作用，因此本文采用了不用大小的Embedding size，模型输出为：

$$\begin{array}{rl}{\varphi }^{GMF}& ={\mathbf{p}}_u^G\odot {\mathbf{q}}_i^G\\ {\varphi }^{MLP}& =a_L\left({\mathbf{W}}_L^T\left(a_{L-1}\left(\dots a_2\left({\mathbf{W}}_2^T\left[{\mathbf{p}}_u^M\right]+{\mathbf{b}}_2\right)\dots \right)\right)+{\mathbf{b}}_L\right)\\ {\hat{y}}_{ui}& =\sigma \left({\mathbf{h}}^T\left[\begin{array}{c}{\varphi }^{GMF}\\ {\varphi }^{MLP}\end{array}\right]\right)\end{array}$$

预训练

由于NeuMF的目标函数具有非凸的性质，使用梯度下降求解只能找到局部最优解，因此参数初始化显得格外重要；因为NeuMF集成了GMF和MLP模型，因此本文提出使用GMF和MLP模型的参数作为NeuMF模型的初始化参数。

首先使用随机初始化的方式生成GMF和MLP的参数，然后训练直至收敛，使用Adam(它通过对频繁的参数执行较小的更新而对不频繁的参数进行较大的更新来调整每个参数的学习率，更快的收敛)优化。初始化NeuMF时使用GMF和MLP中相应部分的参数来初始化即可，不过初始化参数h时使用以下方法：

$$\mathbf{h}\leftarrow \left[\begin{array}{c}\alpha {\mathbf{h}}^{GMF}\\ (1-\alpha ){\mathbf{h}}^{MLP}\end{array}\right]$$

其中参数$\alpha =0.5$，使用预训练的初始化权重之后，NeuMF使用SGD进行参数优化。

实验数据

• MovieLens：http://grouplens.org/datasets/movielens/1m/

• Pinterest：https://sites.google.com/site/xueatalphabeta/ academic-projects

评价指标

• HR($HitRatio$)

• NDCG($NormalizedDiscountedCumulaticeGain$)

对比算法

• ItemPop
• ItemKNN
• BPR
• eALS

实验设置

• 使用深度学习框架Theano-Keras
• 负采样比例1:4
• 参数随机初始化-均值为1标准差为0.01的正太(高斯)分布

实验结果

原论文开源代码地址

https://github.com/hexiangnan/neural_collaborative_filtering

结果复现

• GMF

python GMF.py --dataset ml-1m --epochs 20 --batch_size 256 --num_factors 8 --regs [0,0] --num_neg 4 --lr 0.001 --learner adam --verbose 1 --out 1

• MLP

  python MLP.py --dataset ml-1m --epochs 20 --batch_size 256 --layers [64,32,16,8] --reg_layers [0,0,0,0] --num_neg 4 --lr 0.001 --learner adam --verbose 1 --out 1

• NeuMF-With-Pretrain

  python NeuMF.py --dataset ml-1m --epochs 20 --batch_size 256 --num_factors 8 --layers [64,32,16,8] --num_neg 4 --lr 0.001 --learner adam --verbose 1 --out 1 --mf_pretrain Pretrain/ml-1m_GMF_8_1501651698.h5 --mlp_pretrain Pretrain/ml-1m_MLP_[64,32,16,8]_1501652038.h5

• NeuMF-Without-Pretrain

  python NeuMF.py --dataset ml-1m --epochs 20 --batch_size 256 --num_factors 8 --layers [64,32,16,8] --reg_mf 0 --reg_layers [0,0,0,0] --num_neg 4 --lr 0.001 --learner adam --verbose 1 --out 1