机器学习-SVM

SVM

基本概念

支持向量机（support vector machines，SVM）是一种二分类模型，它将实例的特征向量映射为空间中的一些点，SVM 的目的就是想要画出一条线，以 “最好地” 区分这两类点，以至如果以后有了新的点，这条线也能做出很好的分类。SVM 适合中小型数据样本、非线性、高维的分类问题。

分类

线性可分支持向量机

SVM 将会寻找可以区分两个类别并且能使间隔（margin）最大的划分超平面。比较好的划分超平面，样本局部扰动时对它的影响最小、产生的分类结果最鲁棒、对未见示例的泛化能力最强。
过渡带越宽，泛化能力越强，更能防止过拟合

损失函数

0/1损失

logistic损失函数

Hinge损失函数

y=1-d 求最小值 损失的和

软间隔最大化

核函数

解决线性不可分
将向量的维度从低维映射到高维
降低运算复杂度降低运算复杂度

分类

多项式核函数
Sigmoid核函数
高斯核是无穷维的 RBF核

分类器指标

accuracy，precision，recall