监督学习方法与无监督学习方法总结

（一）监督学习
10种监督学习方法特点的概括汇总如下表：

（二）无监督学习
八种常用的统计机器学习方法，即聚类方法（包括层次聚类与k均值聚类）、奇异值分解（SVD）、主成分分析（PCA）、潜在语义分析（LSA）、概率潜在语义分析（PLSA）、马尔可夫链蒙特卡罗法（MCMC）、潜在狄利克雷分配（LDA）、PageRank算法 还有另外三种常用的统计机器学习方法，即非负矩阵分解（NMF）、变分推理、幂法 这些方法常用于无监督学习的聚类、降维、话题分析以及图分析
矩阵分解基于不同假设：SVD基于正交假设，即分解得到的左右矩阵是正交矩阵，中间矩阵是非负对角矩阵；非负矩阵分解基于非负假设，即分解得到的左右矩阵皆是非负矩阵。 含有隐变量的概率模型的学习有两种方法：迭代计算方法、随机抽样方法。EM算法和变分推理（包括变分EM算法）属于迭代计算方法，吉布斯抽样属于随机抽样方法。

机器学习方法之间的关系如下图所示：

无监督学习方法的特点如下表：