线性分类模型

感知器

定义感知器模型：
$$f(x)=sign(w\cdot x+b)$$

其中$sign$为符号函数，即当$w\cdot x+b>0$时$f(x)=1$；当$w\cdot x+b<0$时$f(x)=-1$。

定义损失函数为误分类点到超平面的总距离：
$$\underset{w,b}{\min }L(w,b)=\sum _{x_i\in M}-y_i(w\cdot x_i+b)$$

其中$M$为误分类点的集合。

参考资料：
[1] 新手入门：感知器
[2] Coursera机器学习基石 第2讲：感知器

LinearSVM

参考资料：
[1] Python · SVM（二）· LinearSVM