机器学习中的矩阵分解方法

基于郭栋老师的教学PPT，配上相关paper和资料，做到对矩阵分解技术有个大致了解。

一个假设：数据由有限的潜在因子决定，数据样本的观测值是潜在因子的一个映射。

矩阵分解发展历史：

经典的方法PCA，SVD这里就不说了，2003年提出的topic model LDA，听说当时可是火了一把。

重点推荐几种矩阵分解方法：

概率矩阵分解（PMF），由深度学习大牛Ruslan Salakhutdinov所写，paper正文点这里，主要应用到推荐系统中，在大规模的稀疏不平衡Netflix数据集上取得了较好结果。

非负矩阵分解(Nonnegative MatrixFactor ,NMF)由 Lee和 Seung 在《Nature》上提出，paper正文点这里，非负矩阵分解及其改进版本应用到了很多领域，国内的一篇paper做了综述,，非负矩阵分解在文本聚类方面的应用，看这里。

矩阵分解模型最早由 Sarwar 等人应用到推荐系统当中。

矩阵分解在推荐系统中的运用，推荐Google推荐系统大牛Yehuda Koren：

MATRIX FACTORIZATION TECHNIQUES  FOR RECOMMENDER SYSTEMS

Advances in Collaborative Filtering

基于矩阵分解的算法和应用，这里有海量信息：https://sites.google.com/site/igorcarron2/matrixfactorizations，若是小时候爬墙技术没学好，美女博士辛苦的做了搬运工：http://blog.csdn.net/abcjennifer/article/details/30371615。