机器学习之逻辑回归(Logistic Regression)

1、逻辑回归模型

y = sigmod（w*x + b）,然后再用激活函数 sigmoid = 1/1+e-z
机器算法的目的是使得模型的与真实值之间的差值越小越好，也就引入损失函数来进行计算，和线性回归一样，逻辑回归的损失函数(或者叫做误差函数)是通过最小二乘法计算的（正态分布相联系），损失函数可以用来衡量算法的运行情况

BD8F7BC6-2D7B-479D-A5D9-0D0433D482C5.png

1、loss function（单个训练样本的误差函数）
2、Cost function （整个训练样本的成本函数）,成本函数用衡量w和b参数的效果

2、寻找最优解，梯度下降法

338C8236-4964-4CD0-967E-2B573F9A3440.png

下图为了方便用图来表示，先不管b的

C65E9CAE-169F-44A2-90AD-42B1BE40610D.png

通过不断的更新w的值，来找到最优解或者说接近最优解决。
w = w - a*dj(w)/dw,其中a表示学习速率，dj(w)/dw表示为曲线的斜率。