机器学习之监督学习-分类

机器学习之监督学习-分类

一、分类问题概念

• 分类问题（classification problems）

输入特征（input features）：$x^{(i)}$ （定义域：实数）
输出（output）：$y^{(i)}$ （值域：离散值）
模型参数（model parameters）：$\theta$

• 参考网址：http://blog.csdn.net/zhulf0804/article/details/52198823

二、逻辑回归

• 逻辑回归是一种类似于线性回归的算法。但从本质上看，线型回归处理的问题类型与逻辑回归不一致。线性回归处理预测的是连续数值问题，比如预测房价。而逻辑回归属于分类算法，即逻辑回归预测结果是离散的分类，例如判断邮件是否是垃圾邮件。

• 逻辑回归的实现方法：对线性回归的计算结果加上了一个 $sigmoid$ 函数，将线性回归结果数值结果转化为了0到1之间的概率。接着可以根据概率值做分类预测，如概率大于0.5，则这封邮件就是垃圾邮件。从直观上来说，逻辑回归是画出了一条分类线，逻辑回归算法划出的分类线基本都是线性的。