python实现主成分分析（PCA）

python实现主成分分析（PCA）

前言： 主成分分析主要是用于降维，减少样本的特征量，其核心思想是将样本数据映射到最重要的方向，而最重要的方向就是方差最大的方向。关于主成分分析详细的理论知识，请至我的这篇博文中查看

一、PCA的简单实现示例代码

import numpy as np
import matplotlib.pyplot as plt

# 将二维数据通过主成分分析（PCA）降为一维数据

# 读取数据
data = np.genfromtxt('data.csv', delimiter=',')
x_data = data[:, 0]
y_data = data[:, 1]

# 数据中心化(求平均值以及各个特征的样本数据与平均值之差)
def zeroMean(dataMat):
    # 按列求平均，即各个特征的平均
    meanVal = np.mean(dataMat, axis=0)
    newData = dataMat - meanVal
    return newData, meanVal
newData, meanVal = zeroMean(data)

# 计算协方差的函数
def cov(data):
    meanVal = np.mean(data, axis=0)
    newData = data - meanVal
    L = np.array(np.zeros((newData.shape[1], newData.shape[1])))
    for i in range(len(newData)):
        rowData = newData[i, :]
        rowData = rowData[:, np.newaxis]
        L = L + np.dot(rowData, rowData.T)
    return L / (len(newData) - 1)

# 利用numpy计算协方差矩阵(rowvar=0说明数据一行代表一个样本)
covMat = np.cov(newData, rowvar=0)
# 利用Numpy求特征值和特征向量
eigValue, eigVectors = np.linalg.eig(np.mat(covMat))
# 对特征值从小到大排序
eigValueIndex = np.argsort(eigValue)
# 确定降维后的维度
dim = 1
# 取最大的dim个特征值的下标
n_eigValueIndexs = eigValueIndex[-1:-(dim + 1):-1]
# 取最大的特征值对应的特征向量
n_eigVectors = eigVectors[:, n_eigValueIndexs]
# 得到降维后低维特征空间的数据
lowDataMat = newData * n_eigVectors
# 利用低维数据重构数据(将降维的步骤反向执行)
reconMat = (lowDataMat * n_eigVectors.T) + meanVal
# 绘制原样本数据和投影后数据（重构数据）的散点图
plt.scatter(x_data, y_data)
plt.scatter(np.array(reconMat[:, 0]), np.array(reconMat[:, 1]), c='r')
plt.show()

二、执行结果

三、数据下载
链接：https://pan.baidu.com/s/16-GKcsnQ5xkUN8FI3nOa_A
提取码：05ra