浅谈PCA 人脸识别
前几天讨论班我讲了基于PCA的人脸识别，当时我自己其实也只是知道这个算法流程，然后基于该算法利用c++实现了，效果还不错。后来跟师兄一起讨论的时候，才发现这个PCA还是有相当深刻的意义。
PCA的算法：矩阵C=AAT，A的每一列是一张人脸注（将一张人脸图片用一个列向量表示，即对于128*128的图片，将视为16384维的列向量），A的列数就是图片的张数。算法就是求矩阵C的特征向量，每个向量称之为特征脸[1]。为了简单，只取其中部分的特征向量，这些特征向量对应于某些特征值，通常是前M个大的特征值。这样便得到了M个特征向量。接下来就是将每张图片在这M个特征向量上做投影，得到一个M维的权重向量w=（w1,…wM），一个人可能有多张图片，于是将对应于这个人的权重向量做一个平均作为这个人的权重向量。然后对于每个新来的人脸，先求得一个权重向量，然后与人脸库中每个人的权重向量做比较，如果小于某个阈值，则认为他是人脸库中的这个人；否则视为unknown。当然，文章中还给出了另外一个判断一张图像是否是人脸的方法，这里不再讨论。对于计算的时候我们实际上求的是ATA，至于二者的关系，可以参考文章[1]，因为与后面讨论的关系不大，这里不细说了。
有个上述简介，我们就大概知道了PCA到底是怎么做的了。刨根问底一下，C到底是什么，C的特征向量又到底是什么，对应于特征值大的特征向量有有什么意义。
1.C到底是什么？我们先看一下C的（i,j）元素是什么。很简单，就是A的第i行与AT的第j列的乘积。那么A的第i行又是什么呢？就是每张图片的第i个像素构成的一个向量。则C的（i,j）元素就是每张图片的第i个像素构成的向量与每张图片的第j个像素构成的向量的乘积。回忆一下概率论中的协方差cov(x,y)=E((x-x-)(y- y-)),这里x- 是x的平均。如果我们把图片的第i个像素视为一个随机变量Xi，那么人脸库中的每张人脸的第i个像素的取值即为这个随机变量的所有取值。根据注，A的第i行的每个值都已经减去了Xi的均值，因此C的（i,j）元素就是随机变量Xi与Xj的协方差。到此，我们已经知道C是什么了。
2.C的特征向量是什么。我们知道对C求特征向量是找到一个可逆矩阵Q，使得Q-1CQ是一个对角阵D，D的元素即为特征值，Q中的每一列即为特征向量，与特征值所在的列一一对应。注意，因为C是实对称阵，故必然可以对角化。由于C是对称的，C的特征向量是正交的，因此Q便是一个正交阵，故Q-1即为QT。先从简单的角度来看，假设C已经是一个对角阵了，并且对角元素依次递减。即随机变量Xi与Xj(i!=j)时是不相关的，而Xi的方差则随着i的增大而减小。也就是前几个像素是方差比较大的像素，即在第一个像素上，每张图片的值变化最大，第二个像素次之，依此类推。举个例子，假设第一个像素表示人脸的额头上的某个点（也许你会问，第一个像素不是图片的最左上角的那个像素吗？为什么会是额头上的某个点，后面会说明为什么可以这么假设），而在这个点上，有些人有痣，有些人没有，那么这一点的方差就会比相邻的额头上的其他点大，因为其他点上，每个人的额头都差不多，因此其像素值也差不多，方差就小了。现在来考虑QTAATQ=D,这里依然假设D中的元素依次递减。对于QTA，QT的每一行是一个特征向量，QT的第i行与A的每一列相乘得到QTA的每一行，从矩阵的角度也可以看作是用QT对A做一个变换。记住这里的QTA可以看做前面讨论的A，那么变换的结果就是使得QTA前面的行对应的是方差大的像素，而且这个变换会把方差最大的放到了第一行（因为D的降序排列），这里也就解释了为什么前面那个例子可以认为第一个像素是额头上的某个点，因为做了变换。我们选择了QT的前M行作为特征向量，因为他们对应了前M个大的特征值。这里可以举一个直观但是不一定恰当的例子，人的头发部分对应的那些像素，经过QT变换后回到某个像素上，那么这个像素会是QTA中的哪个位置呢，我认为应该是QTA的列中靠下面的像素，因为在头发这个像素的地方每个人基本都是头发（这句话很别扭，我是想说，对于比较正规的人脸库，即每张人脸不会有太大的变化，某个人头发的对应的那几个像素对于其他人来说也都是头发，因此变换后这个像素对于每个人都差不多，方差小，固然会在比较靠后的位置了）。QTA的每一列的前M个元素对应的就是每张人脸的权重向量w。因此每张人脸的权重向量的同一个分量可以看作是新的像素，这些新的像素对应着方差依次减小的像素。对于一张新来的人脸，让他在特征向量上作投影得到权重向量，在这些方差大的像素处，如果跟某个人的比较接近，则认为是这个人，这个也是合理的。至此，也许没能讲清楚特征向量是什么，但我想对应于特征值大的特征向量有什么意义这一点也交代的差不多了。
3.2中交代了说了，这里想不到有什么需要补充的了。
理解了这几个问题之后，PCA简洁明了（这本来就是的）而又有深刻意义了。我突然发现原来看似简单的理论其实水深的很，o(︶︿︶)o ！我看文章实在是不够认真，如果没有师兄提问，估计我也不会去想这个问题。再次感谢WF师兄。
[1]Eigenfaces for Recognition. Matthew Turk,Alex Pentland 1991
注：A的每一列是一张人脸，这里的人脸是每张人脸减去了所有人脸的平均后的人脸