逻辑回归算法原理解读

1、线性回归和逻辑回归的区别

线性回归是处理回归问题，而逻辑回归是处理分类问题，这是两者最本质的区别

2、逻辑回归的原理，损失函数，参数更新方式

线性回归的公式：

，此时Y和X是线性关系

逻辑回归则是在此基础上通过g函数把值映射到0-1之间，其公式为：

对于二分类任务：

合并二分类任务：

似然函数：

对数似然函数求极大值

取J(θ)=-1/m * LnL(θ)求极小值，其中：

为sigmoid函数，对其求导：

梯度下降，批量更新：

参数更新：