逻辑回归

逻辑回归

逻辑回归先从线形回归引入,即通过一些数据去拟合一个函数,再来一个新的数据,可以通过这个函数(模型)得到它对应的输出

通过均方误差求解函数参数

上式子分别对w,b求导并令导数为0解出

将上述的线形模型整体输入sigmod函数就可以得到逻辑回归

即将整体输入进,得到一个0-1之间的概率值

对每个输入x,通过逻辑回归都会得到一个概率值,代表它是正类的概率或者是负类的概率是多少,得到

逻辑回归的模型代表了什么样的输入就会得到什么样概率的输出,那如何得到模型的参数,有了输入,它所对应的分类—比如是0还是1,目标定为使得模型输出为label的概率最大

所以先定义个似然函数:

—>输入,得到的概率要尽可能的大

在二分类中

所以将上式代入loss函数中,得到最终的目标函数:

用梯度下降法等解决凸优化等可以解得w,b

你可能感兴趣的:(逻辑回归)