我觉得PCA与因子分析的本质是一样的

今天考完多元统计分析，巨水的一门课，因为在我看来不写程序的统计课基本就是纸上谈兵的废课。其中有道题论述PCA跟因子分析的基本思想，我写的非常简略，因为我觉得这两个方法本质就是一样的，因为思想就是一样的，只不过实现方式不同而已。显然保守的老师是想让我们抄抄课本，别一两句话就结了，对我说“你这就写这么点儿，怎么给你分”。（爱给多少给多少呗，反正我能及格）而且对我那句“PCA跟因子分析本质相同”的话非常不赞同，说我没学懂，我实在是很不服，但是也懒得跟她争论，于是回来写写博客，来阐述下我的观点。

首先引用一篇文章

http://blog.csdn.net/liuy_yy/article/details/6134753 

链接里面论述了PCA与因子分析的异同。下面是我的回复：

我觉得两者还是本质相同的，或者说PCA根本就是因子分析的特殊情况，因为你原文里也说了F1，F2,···（m个）是不可测的，是潜在的、抽象的。综合性指标Y1，Y2```（m个）仍然是可测性指标并具有实在的意义。

不管是否是可以观测，这都是对于样本数据进行分解的方式，而分解的目的就是在于让样本“在基于给定的指标下能够获得明显的分离”。而因子分析涵盖了PCA这样选取可观测量的情况，又加入了基于不可观测量分析的情况。所以说两者本质相同，或者说PCA就是因子分析的特例。
当然因子分析的特殊因子项也是跟PCA看起来不同的原因，但是这仅仅是一种噪声而已，如果因子分析选取的观测量不佳，必然导致这种噪声的增加，所以理想情况下，这个噪声其实并不是区分PCA与因子分析的本质因素。