07-逻辑回归算法

逻辑回归

1、广义线性回归到逻辑回归

  • 逻辑回归不是一个回归的算法,逻辑回归是一个分类的算法,好比卡巴斯基不是司机,红烧狮子头没有狮子头一样。 那为什么逻辑回归不叫逻辑分类?因为逻辑回归算法是基于多元线性回归的算法。而正因为此,逻辑回归这个分类算法是线性的分类器。未来我们要学的基于决策树的一系列算法,基于神经网络的算法等那些是非线性的算法。SVM 支持向量机的本质是线性的,但是也可以通过内部的核函数升维来变成非线性的算法。
  • 逻辑回归中对应一条非常重要的曲线S型曲线,对应的函数是Sigmoid函数(它有一个非常棒的特性,其导数等于其自身):
    在这里插入图片描述

1.1、Sigmoid函数介绍

  • 逻辑回归就是在多元线性回归基础上把结果(result)缩放到 0 ~ 1 之间。 hx越接近 1 越是正例,hx越接近 0 越是负例,根据中间 0.5 将数据分为二类。其中hx 就是概率函数~
    07-逻辑回归算法_第1张图片
  • 我们知道分类器的本质就是要找到分界,所以当我们把 0.5 作为分类边界时,求hx = 0.5时的解:

你可能感兴趣的:(机器学习,回归,逻辑回归)