正交PCALPP特征提取特征降维

正交PCALPP代码实现

0.引言

​ 传统基于主成分分析 (Principal component analysis, PCA) 的数据降维方法在提取有效特征信息时只考虑全局结构保持而未考虑样本间的局部近邻结构保持问题, 本文提出一种改进全局结构保持算法的特征提取与降维方法，改进的特征提取与降维方法将流形学习中局部结构保持 ( Locality preserving projection, LPP) 的思想融入主成 分分析的目标函数中, 使样本投影后的特征空间保持原始样本空间的整体结构, 还保持样本空间相似的局部近邻结构, 包含更丰富的特征信息,并且引入正交约束消除特征冗余。采用UCI数据集进行降维可视化分析。

1.原理

1.1 PCA目标函数

​ PCA的核心是通过投影矩阵A将高维数据降成低维数据，实现数据沿该坐标系的分布方差最大化，能够实现最大化保持数据的全局结构特性，其目标函数如下：

$$maxtr(A^{\prime }X{X}^{\prime }A)$$

1.2 LPP目标函数

​
$$mintr(A^{\prime }XL{X}^{\prime }A);L=D-W;st.A^{\prime }XD{X}^{\prime }A=I$$

1.3 CVPCALPP原理

​
$$maxtr(l{A}^{\prime }X{X}^{\prime }A-(1-l)A^{\prime }XL{X}^{\prime }A);st.A^{\prime }XD{X}^{\prime }A=I;其中：l是用于平衡PCA与LPP这两个目标函数的权重系数$$

$$st.a{i}^{\prime }\ast aj=1(i=j);否则：a{i}^{\prime }\ast aj=0；（正交约束）$$

2.方案验证

clc;clear;close all
load wine;fea=double(wine);gnd=wine_labels;
options = [];
options.Metric = 'Euclidean';
options.NeighborMode = 'KNN';
options.k = 5;
options.t = 0.1;
options.delta=1000;
options.bSelfConnected = 1;
options.WeightMode = 'HeatKernel';
options.ReducedDim = 6;
[W,~] = constructW3(fea,gnd,options);%监督核欧式距离
%W = constructW(fea);%欧氏距离
%[W,~] = constructW2(fea,options);%非监督核欧式距离

% [eigvector1, eigvalue1, meanData, Y]=PCA(fea, options);
%[eigvector2, eigvalue2, Y] = LPP(fea, W, options);
[eigvector,eigvalue, Y] = CVPCALPP(fea,W,options);
    
%%
figure
for i=1:max(gnd)
    n=find(gnd==i);
    plot3(fea(n,1),fea(n,2),fea(n,3),'*')%原始数据
    hold on
    grid on
end
mappedX1=Y;
figure
for i=1:max(gnd)
    n=find(gnd==i);
    plot3(mappedX1(n,1),mappedX1(n,2),mappedX1(n,3),'*')
    hold on
    grid on
end
legend('1','2','3')

​ 图1 原始数据可视化

​ 图2 本文方法

3.结论

​ 从图上可以，本文方法聚类效果更好。