PCA LDA

PCA有两种定义的方式,一种是将PCA定义为一种正交投影,使得原始数据在投影子空间的各个维度的方差最大化。另一种是定义点到超平面的距离最小。

LDA让投影之后的两个类别的均值相差越大越好

区别

PCA和LDA虽然都用到数据降维的思想,但是监督方式不一样,目的也不一样。PCA是为了去除原始数据集中冗余的维度,让投影子空间的各个维度的方差尽可能大,也就是熵尽可能大。LDA是通过数据降维找到那些具有discriminative的维度,使得原始数据在这些维度上的投影,不同类别尽可能区分开来

PCA LDA_第1张图片

你可能感兴趣的:(PCA LDA)