【人工智能全栈学习】机器学习基础知识——分类器和机器学习三大定律（看完就全懂了）

一、问题

本章问题导读，如果面试前以下题目还有不会的建议看本篇文章

二、人工智能全栈学习系列课程

【人工智能全栈学习】机器学习基础知识——线性回归与逻辑回归（看完就全懂了）
【人工智能全栈学习】机器学习基础知识——传统机器学习（看完就全懂了）
【人工智能全栈学习】机器学习基础知识——分类器和机器学习三大定律（看完就全懂了）
【人工智能全栈学习-情感分析】BiLSTM（看完就全懂了）
【人工智能全栈学习-情感分析】Bert（看完就全懂了）
【人工智能全栈学习-知识图谱】零基础实践——动手学关系抽取
【人工智能全栈学习-知识图谱】零基础理论——动手学关系抽取：TextCNN&LSTM
【人工智能全栈学习-计算机视觉】Yolo系列（看完就全懂了）
【人工智能全栈学习-图像分割】语义分割和实例分割（看完就全懂了）

三、集成学习

集成学习（Ensemble Learning)

Bagging & 随机森林

Boosting

Stacking

四、KNN:K临近算法

基本概念

一文搞懂k近邻（k-NN）算法（一）

k不能大，不能小

k小的话容易过拟合，k大的话模型会变得简单

K值选取

特征归一化的必要性

五、DT:决策树

决策树的生成机制

决策树(Decision Tree)：通俗易懂之介绍
1.节点的分裂
2.阈值的确定

ID3:引入熵减和熵减最大原则

C4.5:引入信息增益率，防止过拟合

六、VC维：即量化表达能力的指标

VC维的历史

VC维定义

看下面的定义是不是看不懂，没关系，继续看





现在有n个点，做二分类，可以有$2^n$种分法，如果对于m个点，对于一个曲线能将$2^m$个类被标注都进行很好的划分，那么称这个vc维为m

什么是VC维

vc维可以理解成函数集可以区分多少样本点，作为评判该函数集的依据，每个点或者任意点的组合都可以被该函数集或者分类器分出来的一个衡量分类器复杂度的指标。

VC维和SVM的关系

七、机器学习三大定律

机器学习中的几个理论和定理

奥卡姆剃刀原理

丑小鸭原理

没有免费的午餐原理