哈尔滨工业大学2021机器学习期末考试原题

1.参数正则化与参数先验的关系，模型估计中参数正则化的作用
2.条件熵的定义，给出它在本课程中的一个应用，这样做有什么好处，给出你的直观理解，
3.朴素贝叶斯满足什么假设，在参数估计中有什么作用，朴素贝叶斯分类器是否是出错概率下的最优分类器，给出证明
4.k-means和GMM的EM算法在参数估计过程中有什么相同点和不同点，说明它们各自的优缺点。GMM算法的E步的更新公式是什么？M步优化的目标函数是什么？
5.SVM在线性可分情况下的优化目标和约束条件。解的形式是什么(数学公式给出)。原问题就可以进行优化求解，为什么要使用对偶函数，
6.PCA协方差矩阵不可逆的原因一般是什么？你采取的解决方法是什么？
7.逻辑回归求得的是否是线性分类器？如果是，给出证明；不是请说明原因
8.向量(或函数)内积在本课程中多次出现，举出三个例子，他们分别以什么形式出现，给出你的理解。