机器学习-支持向量机(Support Vector Machine, SVM)

支持向量机

概述
现在有一个二维平面,平面上有两类线性可分的数据,所以可以用一条直线将它们分开,这条直线就相当于一个超平面,超平面一边的数据全为1,另一边的数据全为-1。
机器学习-支持向量机(Support Vector Machine, SVM)_第1张图片
原理
如何找到最优的分割超平面使得间隔最大化?

  • 最优的分割超平面
  • 间隔最大化

函数间隔
若w成倍增加,虽然超平面不变,但函数间隔也成倍增加机器学习-支持向量机(Support Vector Machine, SVM)_第2张图片
几何间隔机器学习-支持向量机(Support Vector Machine, SVM)_第3张图片机器学习-支持向量机(Support Vector Machine, SVM)_第4张图片
从线性可分到非线性可分
机器学习-支持向量机(Support Vector Machine, SVM)_第5张图片
拉格朗日函数
机器学习-支持向量机(Support Vector Machine, SVM)_第6张图片
机器学习-支持向量机(Support Vector Machine, SVM)_第7张图片
机器学习-支持向量机(Support Vector Machine, SVM)_第8张图片
KKT条件问题
KKT条件问题

对偶问题的求解
机器学习-支持向量机(Support Vector Machine, SVM)_第9张图片
核函数Kernel
机器学习-支持向量机(Support Vector Machine, SVM)_第10张图片
机器学习-支持向量机(Support Vector Machine, SVM)_第11张图片
机器学习-支持向量机(Support Vector Machine, SVM)_第12张图片

你可能感兴趣的:(支持向量机,机器学习)