数据降维：PCA、CCA、LDA、ICA的区别及适用场景

比较

1. PCA： 无监督学习，找到最优重构子空间，使主成分能刻画样本绝大部分的方差。
   应用：数据降维、Eigenfaces、PCA-SIFT

2. CCA(Canonical Correlation Analysis)： 无监督学习，对两组变量降维，找到一个最优相关子空间进行相关性分析。
   应用：问卷调查中变量的相关性分析、跨模态学习。

3. LDA： 有监督学习，学习一个可分性最好的投影方向。相当于是白化(whitening) + PCA，得到的是假设条件下的最优分类子空间（假设每个类都是单模态高斯分布、每个类协方差矩阵相同）。
   应用：数据降维、模式分类

4. ICA： 无监督学习，各个分量之间相互独立，利用数据的高阶统计信息而不是二阶信息得到用于信号分离的独立子空间。
   应用：语音信号分离