华东师范大学机器学习试题

LawsonAbs的认知与思考，还请各位读者审慎阅读。

总结

• 文章来源：csdn：LawsonAbs
• 持续更新~

---

欢迎选修ssl老师的机器学习课，担心吗？害怕吗？还觉得学习机器学习有意思吗？ 这里总结一下ssl老师课程中的考试题，希望能够帮助到师弟师妹们。希望后续有新考试题出来时，师弟或者师妹可以联系我将其加入题库。

1. 2010年试题

求高斯分布的均值和协方差矩阵的最大似然估计

2. 2012年考题

名词解释：贝叶斯公式、最小误差概率模型

最大似然估计，最大后验估计，贝叶斯估计的含义？

• 最大后验估计就是在最大似然估计的基础上加了一个参数的先验
• 贝叶斯估计就是使用贝叶斯定理计算一个参数的后验分布

已知x,y是连续型变量，其中$x=g(y)$，已知x的概率密度为$p_X(x)$，求y的概率密度表达式。

利用分布求

简述规范化的作用

• 线性回归中，使用L2范数作为惩罚项的正则化最小二乘法称为岭回归
• 线性回归中，使用L1范数作为惩罚项的正则化最小二乘法称为Lasso回归

如何进行主成分分析？

HMM的联合分布表达式

3. 2013年考题

head to head 的公式推导

这是汇总结构，汇总结构分两种情况：一种是节点被观测，一种是节点不被观测。

• B 节点被观测
  
• B 节点不被观测
  

线性分类器两类不可分问题的函数表达式以及其实现思路

KNN的基本思想

kmeans的基本思想

• 目标： 最小化所有数据到其所属簇中心的距离的平方和
• 方法：迭代优化近似求解

4. 2014年考题

如何检验某个函数是否是核函数？

• 根据核函数的定义
• 根据有限半正定性

和积算法的过程是什么？

什么是共轭先验？

head to tail 的推导

隐马尔可夫模型如何产生观测序列？

写出HMM模型用到的所有参数，并写出其全部变量的联合分布

什么是最大团？

为什么需要近似推断？

EM算法的详细步骤？

Fisher 的基本思想，优化表达式及结果

Fisher线性判别也称为线性判别分析（Linear discriminant analysis,LDA），既可以看成一种线性分类器，也可以看成一种监督降维方法。
用途：

• 降维
• 分类

优势：

• 同时考虑类间与类内的关系
  即：一方面希望两个类别的数据投影后的均值之间的距离尽可能大。（这个距离怎么衡量？）。假设类别一的均值是$m_1$，类别2的均值是$m_2$

5. 2015年考题

线性回归模型定义

期望传播