11-3 Soft Margin SVM

* 固执己见的支持Hard Margin SVM可能会出错

11-3 Soft Margin SVM_第1张图片
上图若还是用Hard Margin SVM的化,它的泛化能力是不高的
11-3 Soft Margin SVM_第2张图片
最上面蓝色的点是outlier,错误的点
下面的线作为决策边界是更好的:容错能力,可以错误分类,泛化能力高

11-3 Soft Margin SVM_第3张图片
此时就是线性不可分的,没有任何的直线可将数据分成两类。
无法应用Hard Margin SVM

* Soft Margin SVM

11-3 Soft Margin SVM_第4张图片

  • 为了让wx + b = 1,wx + b = -1具有容错能力,不要那么苛刻,可以:
    wx + b = 1 - yita, wx+b = -1 + yita 。这样的效果就是向量机之间的区域内是可以有数据点的
  • 为了不让每个x的yita都那么的大,限制了所有yita的和的大小

11-3 Soft Margin SVM_第5张图片

你可能感兴趣的:(机器学习-11章,支撑向量机)