无人驾驶之《机器学习》学习指南

无人驾驶之《机器学习》学习指南

因为机器学习这本书数学很多，有些内容还比较过时，本人刚培训完这本书，深感很多概念你可能自动懂了，也觉得自己已经讲得让幼儿园都能听懂了，还是很多人听不懂，所以本篇目的就是给大家划重点，也是我们培训最后的考试内容，希望大家学习愉快少走弯路。

一、 绪论
1.知道机器学习的基本概念及基本术语。
2.知道什么是假设空间。
3.知道我们一般可以将数据集分为哪三大部分。
4.了解归纳偏好的基本概念。
5.理解什么是NFL定理及其成立条件。
二、模型评估与选择
1.知道留出法，交叉检验法，自助法的区别。
2.掌握Kfold交叉检验的步骤及使用方法。
3.了解查准率和查全率的基本概念。
4.大致了解ROC和AUC的基本概念
5.知道为什么我们需要比较检验。
三、线性模型
1.掌握线性回归的基本思想。
2.知道sigmoid函数的意义。
3.掌握全梯度下降，批梯度下降，随机梯度下降的概念及区别。
4.掌握LDA的基本思想及与PCA的区别。
5.知道多分类学习的基本方法。
6.能对类别不平衡问题提出解决方案。
7.能对过拟合和欠拟合提出解决方案。
四、决策树
1.了解ID3,C4.5,CART决策树的区别，其在构建树时的评价指标分别是怎样的。
2.能够手算ID3决策树
3.掌握预剪枝和后剪枝的基本概念及操作步骤。
4.知道对缺失值数据的决策树解决方法。
五、神经网络
1.了解反向传播算法的基本概念。
2.结合SVM的核方法了解RBF神经网络的基本概念。
3.了解递归神经网络和无递归的神经网络在结构上的区别。
（改章重点全部在深度学习中考）
六、支持向量机
1.掌握SVM的推导步骤。
2.了解SMO算法的基本思想。
3.知道软间隔支持向量机的C参数的意义及其对分类结果的影响。
4.知道KKT条件和半正定条件对局部极小值和全局极小值的影响。
5.知道核函数SVM的实质是对内积形式的变换，知道高斯核变换的意义及形式。
6.掌握SVR的基本思想。知道其与线性分类器的区别。
七、贝叶斯分类器
1.掌握朴素贝叶斯分类器的计算流程。（计算题）
2.知道朴素贝叶斯分类器和半朴素贝叶斯分类其的区别。
3.掌握EM算法的思想，更新策略及步骤。
八、贝叶斯分类器
1.了解kaggle竞赛的一般方法。
2.掌握Boosting算法的基本思想能够解释P174的各行伪代码。
3.了解投票法的分类及基本原理。P183开始
4.大致了解bagging的基本思想。
5.知道多样性及个体学习的准确率对集成学习的影响机制。
九、聚类
1.掌握欧式距离，曼哈顿距离的基本计算方法。
2.掌握K-means，DBSCAN，GMM，层次聚类的基本步骤和思想。
十、降维与度量学习
1.了解K近邻的基本思想。
2.了解低维嵌入的概念。
3.了解PCA的基本原理以及与LDA的区别。知道为什么
4.掌握马氏距离的计算方法，并给出马氏距离在SVC,聚类上的应用方法。
5.了解懒惰学习，在线学习，迁移学习，主动学习，对抗学习，生成学习的概念。
十一、特征选择和稀疏学习
1.了解heatmap的基本原理及作用。
2.知道子集搜索和子集评价的方法。
3.知道过滤式选择的基本思想。
4.掌握L1正则化和L2正则化的基本思想及使用方法。
5.知道L-lipschitz条件的原理及原因。
十二、计算学习理论
1.知道什么情况满足PAC可学习，什么是有限假设空间，什么是无限假设空间。
2.掌握VC维的概念（重点）。
3.知道Rademacher复杂度的原理。
十三、半监督学习
1.掌握样本标签缺失时的基本处理方法。
2.了解半监督SVM的原理。
3.了解版监督聚类的基本方法。
十五、规则学习
1.了解规则学习的基本概念。
（注：14 16章在强化学习中讲）