【机器学习】分类问题

假设函数的表达式

逻辑回归模型

我们希望 0≤h≤1，可以设h=g(θ.T x）
令g(z)=1/(1+e^(-z))
这个函数g叫做sigmoid 函数，又叫做logistic 函数

sigmoid函数

理解

h=P(y=1|x;θ)
P(y=1|x;θ)+P(y=0|x;θ)=1
h的值是取定x和θ下，y为1的概率；同样也等于取定x和θ下，y的期望。

决策边界

逻辑回归

观察sigmoid函数，发现，当z≥0时，g(z)≥0.5；z≤0时，g(z)≤0.5。
一般来说，我们希望阈值取0.5，那么构造z时，我们要尽量让z>0时，y取1，z<0时，y取0。
z在x的空间中就是一个边界，也就是决策边界。

线性决策边界

非线性决策边界

主要针对多项式回归
与线性决策边界类似

非线性决策边界