机器学习——特征降维

一、介绍

1、目的：降低特征的维数，使得特征和特征之间不相关

2、方式：特征选择、特征提取

        其中，特征选择详见：特征选择方法全面总结 - 知乎

二、特征提取

1、目的：将高维数据降为低维数据，过程中可能舍弃原有数据，生成新的数据

2、效果：降低数据维数，降低数据复杂度，损失少量信息

3、应用：回归问题或者分类问题

4、分类：线性降维、非线性降维

1）线性降维：主成分分析（PCA）、ICA、LDA、LFA、LPP

2）非线性降维：（1）基于核函数：KPCA、KICA、KDA

                           （2）基于特征值的方法：ISOMAP、LLE、LE、LPP、LTSA、MVU

sklearn代码调用模块示例：

from sklearn.decomposition import PCA
pca = PCA(n_components=2)

具体原理，详见大神博客： 特征降维方法_云仄的博客-CSDN博客_特征降维方法