基于矩阵分解的推荐算法

推荐系统

             我们知道，协同过滤算法（Collaborative Filtering）是最常用的推荐算法，其就是通过从用户（User）的历史行为数据中挖掘出用户的兴趣，并为其推荐可能感兴趣的项（Item），常用的方法有，基于用户的协同过滤算法和基于项的协同过滤算法。
             我们采用常用的相似度度量方法，欧氏距离（Euclidean Distance）、皮尔逊相关系数（Pearson Correlation）、余弦相似度（Cosine Similarity），以上三种度量方法均满足拓扑学度量空间三要素，即非负性、对称性、三角不等性。此处我们不打算展开讲解以上两种算法，而是重点说明基于模型的协同过滤算法中的一种—–矩阵分解（Matrix Factorization），另外大家有兴趣也可以查看一下基于图的推荐算法（PersonalRank）的简单实现点这里。。。 ^-^。

矩阵分解

             此处我们只将用户—商品矩阵 Rm×n R m × n 分解为两个矩阵 Pm×k P m × k 和 Qk×n Q k × n ，使得满足，

Rm×n≈Pm×k×Qk×n=R^m×n R m × n ≈ P m × k × Q k × n = R ^ m × n

从而补全那些缺失值，进而为用户推荐那些可能感兴趣的商品。
             我们将使用最小二乘法对那些非缺失的值进行损失评估，即

e2=(rij−r^ij)2=(rij−∑l=1kpil×qlj)2 e 2 = ( r i j − r ^ i j ) 2 = ( r i j − ∑ l = 1 k p i l × q l j ) 2

另外我们使用 L2 L 2 正则化，

L2=∑l=1k(p2il+q2lj) L 2 = ∑ l = 1 k ( p i l 2 + q l j 2 )

其中 i∈[1,m],j∈[1,n] i ∈ [ 1 , m ] , j ∈ [ 1 , n ] , k是我们所指定的大小，因此最终的损失函数为，

loss(pil,qlj)=e2+β2L2  其中pil,qlj即为分解的两个矩阵中的元素，也就是求解参数 l o s s ( p i l , q l j ) = e 2 + β 2 L 2     其 中 p i l , q l j 即 为 分 解 的 两 个 矩 阵 中 的 元 素 ， 也 就 是 求 解 参 数

接下来我们就可以使用梯度下降算法求解 Pm×k P m × k 和 Qk×n Q k × n

∇ploss=∂ loss∂pil=−2(rij−r^ij)qlj+βpil=−2eijqlj+βpil ∇ p l o s s = ∂   l o s s ∂ p i l = − 2 ( r i j − r ^ i j ) q l j + β p i l = − 2 e i j q l j + β p i l

∇qloss=∂ loss∂qlj=−2(rij−r^ij)pil+βqlj=−2eijpil+βqlj ∇ q l o s s = ∂   l o s s ∂ q l j = − 2 ( r i j − r ^ i j ) p i l + β q l j = − 2 e i j p i l + β q l j

So…,

pil=pil−∇ploss p i l = p i l − ∇ p l o s s

qlj=qlj−∇qloss q l j = q l j − ∇ q l o s s

这样我们就可以通过迭代（迭代次数，误差容忍度。。。）直到收敛。
实现完整代码 点这里。。。