【机器学习小常识】“分类” 与 “回归”的概念及区别详解

目录

1、分类与回归是干嘛的？

2、二者有什么区别

1.输出不同

2.目的不同

3.本质不同

4.结果不同

3、场景应用

1.分类应用

2.回归应用

---

学过机器学习的人都听过两个概念：分类与回归，特别的，在YOLO v1中，作者也提到了

YOLO之前的物体检测方法通常都转变为了一个分类问题，如 R-CNN、Fast R-CNN 等等。而YOLO将检测变为一个 回归问题。

那么这两个概念有什么联系，有什么区别呢？

写这篇博客，参考过很多人的简介，不同的人给的回复也不同， 在这里，我把他们汇总一下。

敲黑板

重点来啦重点来啦！！！

1、分类与回归是干嘛的？

不管是分类，还是回归，其本质是一样的，都是对输入做出预测，并且都是监督学习。说白了，就是根据特征，分析输入的内容，判断它的类别，或者预测其值。

2、二者有什么区别

重要要研究的就是两者的区别

1.输出不同

1.分类问题输出的是物体所属的类别，回归问题输出的是物体的值。

例如，最近福州天气比较怪（阴晴不定，像极了女朋友的脾气），为了能够对明天穿衣服的量以及是否携带雨具做判断，我们就要根据已有天气情况做预测。

上图中的天气可以分为：晴、阴、雨 三类，我们只知道今天（2019年3月26日）及之前的天气，我们会预测明天及以后几天的天气情况，如明天阴，下周一晴，这就是分类；

每一天的天气温度，我们知道今天及以前几天的温度，我们就要通过之前的温度来预测现在往后的温度，每一个时刻，我们都能预测出一个温度值，得到这个值用的方法就是回归。

2.分类问题输出的值是离散的，回归问题输出的值是连续的

注：这个离散和连续不是纯数学意义上的离散和连续。

在数学上的连续是指，在某一个点处的极限值等于在这个点的函数值。很明显，回归问题不可能测得连续值。因为我们测得的两个值再接近，这两个值之间还是会存在实数域上的值，比如我们测得空气温度是11°和10.999°（现实情况中，测空气温度小数点后三位几乎没什么意义，在此只是作为例子来说明问题），在这两个值之间还有无穷多个值，比如：10.9999°，10.99999°等等。测得的值是有范围的，小数点多少位以后，值就测不到了。

那我们怎么去理解离散和连续呢？

我们可以这么理解：离散就是规定好有有限个类别，这些类别是离散的。连续就是理论上可以取某一范围内的任意值，比如现在28°，当然这是我们测出来的，但是实际温度可能是无限趋于28。也就是说，回归并没有要求你的值必须是那个类别，你只要能回归出一个值，在可控范围内即可。

3.分类问题输出的值是定性的，回归问题输出的值是定量的

首先我们要先给大家说一下什么是定性和定量。

所谓定性是指确定某种东西的确切的组成有什么或者某种物质是什么，这种测定一般不用特别的测定这种物质的各种确切的数值量。

所谓定量就是指确定一种成分（某种物质）的确切的数值量，这种测定一般不用特别的鉴定物质是什么，

举个例子，这是一杯水，这句话是定性；这杯水有10毫升，这是定量。

2.目的不同

分类的目的是为了寻找决策边界，即分类算法得到是一个决策面，用于对数据集中的数据进行分类。

回归的目的是为了找到最优拟合，通过回归算法得到是一个最优拟合线，这个线条可以最好的接近数据集中的各个点。

3.本质不同

这个是我看到的别人在分析两者的差别时提到的，分享给大家。

（原文：https://www.zhihu.com/question/21329754/answer/204957456）

所谓的离散与连续的差别是分类与回归的不同的表象，而非本质，本质在于损失函数的形式不同。

4.结果不同

分类的结果没有逼近，对就是对，错就是错，什么类别就是什么类别，最终结果只有一个。

回归是对真实值的一种逼近预测，值不确定，当预测值与真实值相近时，误差较小时，认为这是一个好的回归。（例如一个产品的实际价格为5000元，通过回归分析预测值为4999元，我们认为这是一个比较好的回归分析。）

3、场景应用

我们的主要目的还是为了应用，而不是单纯了解他们有什么不同。

1.分类应用

分类问题应用非常广泛。通常是建立在回归之上，分类的最后一层通常要使用softmax函数进行判断其所属类别。分类并没有逼近的概念，最终正确结果只有一个，错误的就是错误的，不会有相近的概念。

例如判断一幅图片上的动物是一只猫还是一只狗，判断明天天气的阴晴，判断零件的合格与不合格等等。

2.回归应用

回归问题通常是用来预测一个值。另外，回归分析用在神经网络上，其最上层是不需要加上softmax函数的，而是直接对前一层累加即可。一个比较常见的回归算法是线性回归算法（LR）

如预测房价、股票的成交额、未来的天气情况等等。