吴恩达机器学习（十一）—— 降维

1. 动机1：数据压缩

  数据压缩不仅能对数据进行压缩，使得数据占用较少的内存或硬盘空间，还能让我们对学习算法进行加速。
  假使我们要采用两种不同的仪器来测量一些东西的尺寸，其中一个仪器测量结果$x_1$的单位是厘米，另一个仪器测量的结果$x_2$是英寸，我们希望将测量的结果作为我们机器学习的特征，如下图所示。现在的问题的是，两种仪器对同一个东西测量的结果不完全相等（由于误差、精度等原因），但将两者都作为特征又有些重复，因而我们希望将这个二维的数据降至一维来减少这种冗余。

2. 动机2：数据可视化

  在许多机器学习问题中，如果我们能将数据可视化，便能寻找到一个更好的解决方案，降维可以帮助我们。
  假设我们有关于许多不同国家的数据，每一个特征向量都有50个特征（如GDP、人均GDP、平均寿命等），如下表所示。

  如果要将上面这个50维的数据直接进行可视化是不可能的，但使用降维的方法先将其降至2维，我们便可以将其可视化了。但这样做的问题在于，降维的算法只负责减少维数，新产生的特征的意义就必须由我们自己去发现了

3. 主成分分析问题规划

  主成分分析（PCA）是常用的降维算法。
  在PCA中，我们要做的是找到一个低维平面，当我们将所有数据都投影到该平面上时，希望投影误差（Projection error）能尽可能地小。在应用PCA之前，常规的做法是先进性均值归一化和特征归一化，使得特征量均值为0，并且其数值在可比较的范围之内。
  如下图所示的数据，其在红线所代表的向量上的投影误差总的来说要比绿线所代表的向量上的投影误差要小得多，效果更好。

  在本例将2维降至1维的情况中，PCA要做的是去找到一个数据投影后能够最小化投影误差的方向向量。对于将 n 维降至 k 维的情况，PCA要做的是找到 k 个方向向量来对数据进行投影来最小化投影误差。
  主成分分析与线性回归是两种不同的算法。如下图所示，左边的是线性回归的误差（垂直于横轴投影），右边是主成分分析的误差（垂直于方向向量投影）。

  主成分分析与线性回归的区别在于：

1. 线性回归的误差距离是某个点与假设得到的预测值之间的距离；PCA的误差距离是某个点与方向向量之间的正交距离，即最短距离。
2. 主成分分析最小化的是投影误差；线性回归尝试的是最小化预测误差。
3. 线性回归的目的是预测结果，而主成分分析不作任何预测。

  PCA将 n 个特征降维到 k 个，可以用来进行数据压缩，如果100维的向量最后可以用10维来表示，那么压缩率为90%。同样图像处理领域的KL变换使用PCA做图像压缩。但PCA要保证降维后，还要保证数据的特性损失最小。
  PCA技术的一大好处是对数据进行降维的处理。我们可以对新求出的“主元”向量的重要性进行排序，根据需要取前面最重要的部分，将后面的维数省去，可以达到降维从而简化模型或是对数据进行压缩的效果，同时最大程度的保持了原有数据的信息。
  PCA技术的一个很大的优点是完全无参数限制。在PCA的计算过程中完全不需要人为的设定参数或是根据任何经验模型对计算进行干预，最后的结果只与数据相关，与用户是独立的。但这一点同时也可以看作是缺点。如果用户对观测对象有一定的先验知识，掌握了数据的一些特征，却无法通过参数化等方法对处理过程进行干预，可能会得不到预期的效果，效率也不高。

4. 主成分分析算法

PCA 从 n 维减少到 k 维的步骤：

1. 均值归一化。我们需要计算出所有特征的均值 ${\mu }_j=\frac{1}{m}{\sum }_{i=1}^m{x}_j^{(i)}$, 然后令 $x_j=x_j-{\mu }_j$ 。如果特征是在不同的数量级上，我们还需要将其除以标准差 $S_j$, 令 $x_j=\frac{x_j-{\mu }_j}{S_j}$ 。
2. 计算协方差矩阵（covariance matrix) : $\Sigma =\frac{1}{m}{\sum }_{i=1}^m\left(x^{(i)}\right){\left(x^{(i)}\right)}^T$ 。
3. 计算协方差矩阵的特征向量（eigenvectors)：利用奇异值分解来求解, $[\mathrm{u},\mathrm{s},\mathrm{v}]=$ svd(sigma); 。 其中，$U=\left[\begin{array}{lccc}\mid & \mid & & \mid \\ u^{(1)}& u^{(2)}& \cdots & u^{(m)}\\ \mid & \mid & & \mid \end{array}\right]\in R^{n\times n}$, 获取矩阵U的前 $\mathrm{k}$ 列得到 $U_{\text{reduce }}=\left[\begin{array}{cccc}\mid & \mid & & \mid \\ u^{(1)}& u^{(2)}& \cdots & u^{(k)}\\ \mid & \mid & & \mid \end{array}\right]\in R^{n\times k}$, 然后通过 $z^{(i)}=U_{\text{reduce }}^T\ast x^{(i)}$ 计算获得要求的新特征向量 $z^{(i)}\in R^{k\times 1}$ 。

5. 重建压缩表示

  对于给定的$z^{(i)}$，怎么回到原来的表示$x^{(i)}$？

  总结： 将 n 维降维至 k 维：$z^{(i)}=U_{reduce}^T\cdot x^{(i)}$；
      将 k 维重建至 n 维：$x_{approx}\approx U_{reduce}\cdot z$。

6. 主成分数量的选择

  投影的平均均方误差： $\frac{1}{m}{\sum }_{i=1}^m{\Vert x^{(i)}-x_{approx}^{(i)}\Vert }^2$。
  训练集的总方差: $\frac{1}{m}{\sum }_{i=1}^m{\Vert x^{(i)}\Vert }^2$, 即训练样本距离远点的距离。

  我们希望在平均均方误差与训练集的总方差的比例 $\frac{\frac{1}{m}{\sum }_{i=1}^m{\Vert x^{(i)}-x_{\text{approx }}^{(i)}\Vert }^2}{\frac{1}{m}{\sum }_{i=1}^m{\Vert x^{(i)}\Vert }^2}$ 尽可能小的情况下选择尽可能小的 $\mathrm{k}$ 值。如果我们希望这个比例小于1%，就意味着原本数据的偏差有99%都保留下来了，如 果我们选择保留95%的偏差，便能非常显著地降低模型中特征的维度了。

  我们可以先令 $\mathrm{k}=1$ ，进行主成分分析，获得 $U_{\text{reduce }}$ 和 $z$ ，然后计算比例是否小于1%。如果不是 的话再令 $\mathrm{k}=2$ ，如此类推，直到找到可以使得比例小于1%的最小 $\mathrm{k}$ 值（原因是各个特征之间通常情 况存在某种相关性) 。
  还有一种更高效的方式选择 $\mathrm{k}$ ， 当我们在调用“svd"函数去使用[U, $\mathrm{S},\mathrm{V}]=\mathrm{svd}(\mathrm{s}\mathrm{i}\mathrm{g}\mathrm{m}\mathrm{a})$ 的时候可以 获得三个参数。其中, $S=\left[\begin{array}{cccc}{s}_{11}& 0& \cdots & 0\\ 0& s_{22}& & ⋮\\ ⋮& & \ddots & 0\\ 0& \cdots & 0& s_{nn}\end{array}\right]$, 我们可以使用这个矩阵来计算平均均方误差与训练集的总方差的比例 $\frac{\frac{1}{m}{\sum }_{i=1}^m{\Vert x^{(i)}-x_{\text{approx }}^{(i)}\Vert }^2}{\frac{1}{m}{\sum }_{i=1}^m{\Vert x^{(i)}\Vert }^2}=1-\frac{{\sum }_{i=1}^k{s}_{ii}}{{\sum }_{i=1}^n{s}_{ii}}⩽0.01$, 即 $\frac{{\sum }_{i=1}^k{s}_{ii}}{{\sum }_{i=1}^n{s}_{ii}}⩾0.99$ 。

7. 应用PCA的建议

  采用PCA算法对监督学习算法进行加速：
  假使我们正在针对一张 100×100像素的图片进行某个计算机视觉的机器学习，即总共有10000 个特征。但因为数据量大，会使得学习算法运行的非常慢。采用PCA算法可以降低数据的维数从而使得算法运行更加高速。

  PCA算法的应用：

1. 压缩：减少存储数据所需的存储器或硬盘空间；加速学习算法。
2. 可视化。

  PCA算法的错误使用：
  一个常见的错误使用PCA算法的情况是，将其用于防止过拟合（减少了特征的数量）。减少数据维度来防止过拟合的方法不是解决过拟合问题的好方法，不如尝试正则化处理。原因在于主成分分析只是近似地丢弃掉一些特征，它并不考虑任何与结果变量有关的信息，因此可能会丢失非常重要的特征。然而当我们进行正则化处理时，会考虑到结果变量，不会丢掉重要的数据。
  另一个常见的错误是，默认地将主成分分析作为学习过程中的一部分，这虽然在很多时候都有效果，但最好还是从所有原始特征开始，只在有必要的时候（算法运行太慢或者占用太多内存）才考虑采用主成分分析。