Logistic回归与Sigmoid函数

一、Logistic回归：
1.1 特征：
Logistic回归主要是二分类预测 ，是对概率的估计的一种方法。概率的取值范围在（0，1）。当P>0.5时，预测为1；当P<0.5时，预测为0。(这也就和下文的Sigmoid 函数一样)。

1.2 分类：
Logistic回归属于广义线性模型，利用Logistic回归进行分类的主要思想是：根据现有的数据对分类便捷线建立回归。

1.3 方法：
Logistic回归最重要的是要找到最佳的拟合参数，而通常使用的方法是梯度上升法。

1.4 目的：
Logistic回归的目的是寻找一个非线性函数 Sigmoid的最佳拟合函数，从而来相对准确的预测分类结果。

二、S型函数——Sigmoid函数
2.1 定义域：R，值域：（0，1）；
常有函数与向量两种表达形式，如下图：

也可以通过写python代码，把Sigmoid函数的图形表示出来，代码及图像如下图：

2.2 特点

（1）sigmoid函数严格单调递增，而且其反函数也单调递增

（2）sigmoid函数连续

（3）sigmoid函数光滑

（4）sigmoid函数关于点(0, 0.5)对称

（5）sigmoid函数的导数是以它本身为因变量的函数，即f(x)’ = F(f(x))

三、推导

四、总结：
与之前我写过的，其实只有一个不一样的，这个用的是梯度上升法，而之前的是梯度下降法。