三维点云处理学习笔记-1-PCA&&kPCA

PCA的用途：1、降维    Dimensionality ruduction

                      2、Surface normal estimation

                      3、Canonical orientation   典型方向

                      4、Keypoint detection

                      5、特征描述

准备知识

1、SVD（Singular Value Decomposition）

2、Spectral Theorem（谱定理）

对于一个N维空间的对称矩阵A（symmetric matrix A），有N个特征值（eigenvalues）。那么，就会有存在正交向量（orthonormal vectors）的集合，满足：

组成正交矩阵U，可以把A写成如下的形式：

3、瑞利商（Rayleigh Quotients）

 （SVD的物理意义）对称矩阵A，用不同的x带进去，可以得到上面的不等式。这个结论可以使用谱定理进行证明。

PCA的步骤：

（1）normalize，中心点归一化到0的地方

（2）向z投影（内积），这个z就是要求的主方向（为了得出一个求极值的函数）

（3）求方差 

（4）最大化这个方差（瑞利商），也就是，投影的成分最多。得到的主方向是Ur的第一列u1。

所以，求主方向就是求Ur。 

求完第一个主方向之后，怎么求第二个主方向？

   By deflation（降阶）