逻辑回归番外篇

逻辑回归的假设：

设p=p(y=1|x;θ)，则p(y=0|x;θ)=1-p

则比值p/(1-p)=称为事件的发生比（the odds of experiencing an event），简记为odds

取对数，log(p/(1-p))=θ^Tx

---

从几何意义上的个人理解：

逻辑回归本质上是回归，而且是线性的回归，即拟合一条直线（线性超平面）

sigmoid函数在这里可以理解为某种点到超平面的归一化的距离函数

逻辑回归最终是寻找一条曲线将两部分数据分隔开。定义的距离函数就是“sigmoid距离函数”

而极大似然概率法可以看成最大化所有样本到超平面的距离的乘积。