关于logistic回归的一点总结

Logistic回归的本质

• 是对数几率(logit)的线性回归， logit=log(y1−y) l o g i t = l o g ( y 1 − y ) ，并不是概率，但是表示一种和概率类似的相关性，比如logit越大，则y越接近于1.

逻辑回归本身到底是线性还是非线性的

• 本身是个非线性模型，因为y=g(z),g是非线性的sigmoid函数，但是假设函数hypothesis是关于x线性的，做的计算其实是 log(y1−y)=wx+b l o g ( y 1 − y ) = w x + b ，是一种线性拟合。

• 这里讲到的线性，是说模型关于系数 θ,x θ , x 一定是线性形式的

如果分类平面本身就是线性的，那么逻辑回归关于特征变量x，以及关于系数 θ θ 都是线性的
如果分类平面是非线性的，例如 x21+x2=0 x 1 2 + x 2 = 0 ，那么逻辑斯蒂回归关于变量x是非线性的，但是关于参数 θ θ 仍然是线性的,无非是做了变形

那他如何实现非线性的决策边界的呢？

通过构造特征的非线性关系，特征的多项式。