3.线性分类器与非线性分类器的区别与优劣?

首先线性和非线性是针对模型参数和输入特征来讲的:

比如输入x,模型y=ax+ax^2那么就是非线性模型,如果输入是x和X^2则模型是线性的。

 再看定义考虑二类的情形,所谓线性分类器即用一个超平面将正负样本分离开,表达式为 y=wx 。这里是强调的是平面。而非线性的分类界面没有这个限制,可以是曲面,多个超平面的组合等。

【如果模型是参数的线性函数,并且存在线性分类面,那么就是线性分类器,否则不是。SVM两种都有(看线性核还是高斯核)。】

线性分类器可解释性好,计算复杂度较低,不足之处是模型的拟合效果相对弱些。

非线性分类器效果拟合能力较强,不足之处是数据量不足容易过拟合、计算复杂度高、可解释性不好。

常见的线性分类器有:LR,贝叶斯分类,单层感知机、线性回归

常见的非线性分类器:决策树、RF、GBDT、多层感知机

SVM两种都有(看线性核还是高斯核)

你可能感兴趣的:(机器学习小知识)