机器学习实战(四)--逻辑斯特回归

一.sigmoid函数

1.函数思想

当我们想生成一个函数，通过这个函数我们给定特征值，就能预测输出。对二分类问题，很容易我们会想到阶跃函数(函数输出0或1)。但这种阶跃性很多时候处理起来都是困难的，自然地，我们想要一个平滑过渡版的阶跃函数。这种数学上更易于处理的过渡更平滑的函数就是sigmoid函数。

2.函数形式

可以看到下面那张图已经非常接近阶跃函数了，只不过中间的过渡是平滑的。

二.分类问题

1.基本思想

对于给定的特征x1,x2...xn，令

（可以用向量符号表示成z=wTx的形式）。

对利用二分类问题，利用sigmiod函数求值，函数值大于0.5判定为A类，小于0.5则判定为B类。其实，我们可以将函数值看成一个概率估计。

那么，该分类问题的重点就在于如何确定各个特征的系数(权