机器学习实验七使用K-means 聚类算法实现图像压缩；利用PCA寻找人脸的低维表示

实验七：使用K-means 聚类算法实现图像压缩；利用PCA寻找人脸的低维表示

一、实验目的

1.实现 K-means 聚类算法，并使用它来实现图像 压缩。
2.使用主成分分析（PCA）来寻找人脸图像的低维表示。

二、实验环境

Window10，Octave

三、实验步骤/过程

1.1实现 K-means：
1.1.1寻找最近的质心：在 FindClosestCentroids.m中添加代码：

1.1.2更新质心：在computeCentroids.m中添加代码：

1.2K-means 在数据集上的应用：在一个 toy 2D 数据集上运行 K-means 算法，改变质心和聚类分配。
1.3随机初始化：在kMeansInitCentroids.m中添加代码：

1.4 基于 K-means 的图像压缩：读取图像后，使用K-means算法在三维RGB空间中找出最适合对像素进行分组（聚类）的16种颜色并替换原始图像中的像素。
2.主成分分析（PCA）
2.1示例数据集：一个具有一个大的变化方向和一个小的变化方向的2D 数据集。
2.2 实现PCA：在pca.m中添加代码：

2.3使用PCA降维：
2.3.1将数据投影到主成分上：在projectData.m中添加代码：

Z = X * U(:,1:K);

2.3.2对数据进行近似重构：在recoverData.m中添加代码：

X_rec = Z * U(:,1:K)';

2.3.3可视化投影：原始数据点用蓝色圆圈表示，而投影数据点（即重构数据点）用红色圆圈表示。投影仅将信息保留在 U1 给定 的方向上。
2.4人脸图像数据集：加载并可视化前 100 幅人脸图像，对人脸数据执行PCA并降维。
2.5可视化PCA：把PCA的实现应用于三维数据，以将其还原为二维，并在二维散点图中可视化结果。

四、实验结果

1.1.1寻找最近的质心：

1.1.2更新质心：

1.2 K-means 在数据集上的应用：

1.4基于 K-means 的图像压缩：

2.1示例数据集：

2.2 实现PCA：

2.3.1将数据投影到主成分上：

2.3.2对数据进行近似重构：

2.3.3可视化投影：

2.4人脸图像数据集：

2.5可视化PCA：