Deflation Methods for Sparse PCA

背景

有很多Sparse PCA 算法运用了收缩算法，但是呢，往往只考虑如何解决，每一次迭代的稀疏化问题，而忽略了收缩算法的选择。

总括

在这里插入图片描述

Hotelling's deflation

公式

特点

如果是的特征向量
那么

所以，依然是的特征值为0所对应的特征向量。
但是，如果不是特征向量,这个性质就不存在了，而且，不一定是半正定矩阵。

在这里插入图片描述

Projection deflation

公式

特点

半正定

假设是半正定的。那么，对于任意的

另外

不过，的值往往不是0

Schur complement deflation

在这里插入图片描述

Orthogonalized projection deflation

公式

是投影矩阵，满足：


若

则：
（假设X的秩为t）
其中为的前t列。

Orthogonalized Hotelling's deflation

公式

特点

XXX