非监督学习——(PCA主成分分析)

1、Principal Component Analysis——PCA,擅长处理坐标系的移动和旋转问题。

2、它是一套全面应用于各类数据分析的分析方法。

3、概述原理:无论收到任何形状的数据,PCA从旧坐标系统仅通过转化和轮换获得新坐标系统,根据数据中心,将新坐标中心移动到数据中心,将新的x轴移至变化的主轴,在整个数据集中寻找最大方差的位置,进一步把轴移至正交处重要性较低的方向,主成分分析找到轴,并告诉这些轴的重要性。

4、步骤:

  • 中心:数据的中心
  • 主轴:\Delta x, \Delta y
  • 第二个成分:\Delta x, \Delta y
  • 最低输出向量呗规范为1

5、通过PCA可得出一个重要值,轴的分布值。如果分布率较小,该散布值对第一条变量轴来说倾向于一个很大的值,对于第二条变量轴来说则小很多。

6、主成分是最大方差的方向。

非监督学习——(PCA主成分分析)_第1张图片

7、将信息损失减到最小的方向。丢失的信息等于某个特定的点与它在这条线上的新位置之间的距离。

非监督学习——(PCA主成分分析)_第2张图片

8、总结:

  • PCA是将输入特征转化为其主要成分的系统化方法。
  • 使用主成分作为新的特征。
  • 当对主成分执行投影或压缩,主成分是数据中使方差最大化的方向(信息丢失降至最低)。
  • 对主成分划分等级,数据因特定主成分而产生的方差越大,那么主成分的级别越高。
  • 最大方差 / 最多信息——第一主成分。第二大最大方差(与第一主成分没有重叠)——第二主成分。
  • 主成分的数量最大值 = 数据输入特征数量。

9、何时使用PCA:

  • 访问隐藏的特征(该特征是存在的情况下)。
  • 降维:可视化高维数据;去噪;在另一个算法之前使用PCA进行预处理(归纳或分类)。

你可能感兴趣的:(非监督学习)