7. 主成分分析 PCA

7. 主成分分析 PCA

---

• pdf版本下载：https://pan.baidu.com/s/1bKDYAa
• html版本下载：https://pan.baidu.com/s/1o7H7DsI

  主成分分析（Principal Component Analysis）属于非监督学习，是特征降维中最老牌的算法之一，应用十分广泛。特别是在现在深度学习进行特向特征提取的过程中，往往由于原始特征过于复杂需要进行降维处理。

---

1 降维的原因

• 原因：

  • 1.使得数据更容易显示，更容易理解
  • 2.降低算法的计算开销
  • 3.去除噪声
     

• PCA的过程就是将高维的数据投影到较低维的空间上，所以它不同于特征选择，通过PCA提取得到的特征是原始特征的线性组合。而其中的提取规则如下

---

2 PCA降维原理

  在信号处理中认为信号具有较大的方差，噪声有较小的方差，信噪比就是信号与噪声的方差比，越大越好。例如上面的图中，我们需要把二维平面上的数据点降到一维，显然数据点在