线性回归线性分类模型小结

线性回归 线性分类模型小结

线性模型(Linear Model)是机器学习中应用最广泛的模型,指通过样本特征的线性组合来进行预测的模型。

1.首先区分回归和分类

线性回归线性分类模型小结_第1张图片
输出为连续值–回归问题
线性回归线性分类模型小结_第2张图片
输出为离散值–分类问题

注意:
线性回归用于解决回归问题,而 LR (Logisitic Regression逻辑回归)和 SVM(支持向量机)等线性模型用于解决分类问题。具体线性分类概况如下图。
线性回归线性分类模型小结_第3张图片
Fisher线性判别准则
线性回归线性分类模型小结_第4张图片
分类能力最强的分类线,他的垂线能让两类数据之间隔得最远,而让同一类数据靠的最紧密。

2.Logistic回归(对数几率回归)

把线性函数的值域从实数区间“挤压”到了(0,1)之间,可以用来表示概率。
线性回归线性分类模型小结_第5张图片

3.Softmax回归

Softmax Regression,也称为多项(Multinomial)或多类 (Multi-Class)的 Logistic 回归,是 Logistic 回归在多分类问题上的推广。
线性回归线性分类模型小结_第6张图片

4.感知机

感知机 由 Frank Rosenblatt 于1958年提出,是 一种广泛使用的线性分类器 。 感知器可谓是最简单的人工神经网络, 只有一个神经元。 模拟生物神经元行为的机器,有与生物神经元相对应的部件,如权重(突触)、 偏置(阈值)及激活函数(细胞体),输出为+1或-1。
线性回归线性分类模型小结_第7张图片

5.线性分类模型小结:

线性回归线性分类模型小结_第8张图片

部分选自链接:https://blog.csdn.net/qq_45956730/article/details/125688529

你可能感兴趣的:(线性回归,分类,机器学习)