【模式识别】编程作业汇总

前言

忙碌的一个学期终于结束了，回想这个学期，一周里有半周都在做模式识别的作业，真的是欲仙欲死。课程结束了回看这些作业，真的是惊叹自己能够每周按时完成作业（吐槽一波作业量太大了哈哈哈）。
不过也是因为每周课后的编程作业，让我对机器学习有了更为深刻的认识。从知晓原理到亲自实现，这是非常重要的质的飞跃。还是很感谢老师能够留这些贴合原理又便于上手的编程作业。
那么，废话不多说，贴上作业和我的代码实现。如果你也想入人工智能这个坑，那么就来做一做这14道编程题，一定会大有裨益。

代码仓库

这里是我的代码实现，不能保证100%正确，但是当你没有思路或者代码卡壳的时候可以作为借鉴。

$ git clone https://github.com/THUEishin/Homework-of-Pattern-Recognition-Course.git

14道机器学习编程题

每道题的问题描述可以在上面GitHub仓库相应题目的文件夹下的README.md中找到，这里我罗列一下题目的中英文互译。

1. Function Estimation by Parzen Window method

使用Parzen窗方法进行函数估计。

2. EM (Expectation Maximization)

数据带缺失值的最大期望估计。

3. GMM (Gaussian Mixture Model)

概率函数估计的高斯混合模型方法。

4. Error Rate Estimation

各种概率密度函数估计的误差率估计

5. Classical and Margin Perceptron

经典感知器模型和带间距的感知器模型

6. SVM (Support Vector Machine)

支持向量机

7. $k$-NN Classifier on MNIST

使用k近邻算法对MNIST数据集进行分类

8. Feature selection with L1-norm regularization

在损失函数中引入L1范数的正则化项来进行特征选择

9. GNN (Graph Neural Network)

图（Graph）神经网络

10. PCA on MNIST

使用主成分分析方法对MNIST数据进行分类

11. MDS and city distance

MDS(Multi-Dimensional Scaling)降维

12. ISOMAP and LLE

ISOMAP和LLE(Locally Linearly Embedding)降维

13. Decision Tree

使用决策树对搜狗新闻分类

14. K-means, hierarchical clustering and spectral clustering

使用C聚类、多级聚类和谱聚类方法对MNIST数据集进行无监督聚类