Logistic 回归

最近看到了Logistic 回归，LR模型主要用于分类模型(不是回归)，细心的人不难发现LR模型在线性回归模型上加了一个sigmoid转换。

sigmoid转换的优势

• 求梯度方便
• 数据统一分布在0-1之间，从下面的LR分布也可以看出

算法

定义

扩张一下，令 ->

对数几率

指发生概率

代入

把领出来，

极大似然估计

image

跟上边学到的貌似是一回事

小结

image

从图像中可以看出，逻辑回归函数将输入的空间映射到了空间，即将值域限制在了之内。 限制后的假设函数为：

关于Logistic 回归 的使用场景和优化方向，供下回探讨。