支持向量机SVM

函数间隔和几何间隔

支持向量机SVM_第1张图片
  • 样本点的函数间隔:

  • 样本点的几何间隔:

间隔最大化:

支持向量机SVM_第2张图片
支持向量机SVM_第3张图片

线性可分SVM

    • 求解过程
支持向量机SVM_第4张图片
支持向量机SVM_第5张图片
支持向量机SVM_第6张图片

KKT条件:

支持向量机SVM_第7张图片
2. 支持向量

在线性可分情况下,训练数据集的样本点中与分离超平面距离最近的样本点的实例称为支持向量

最终模型仅与支持向量有关

支持向量机SVM_第8张图片
3. 线性可分SVM学习算法
支持向量机SVM_第9张图片
支持向量机SVM_第10张图片
4. SMO算法
支持向量机SVM_第11张图片

软间隔最大化

    • 求解过程
支持向量机SVM_第12张图片
支持向量机SVM_第13张图片
支持向量机SVM_第14张图片
支持向量机SVM_第15张图片

KKT条件:

支持向量机SVM_第16张图片
2. 软间隔线性SVM算法
支持向量机SVM_第17张图片
支持向量机SVM_第18张图片
3. 软间隔的支持向量
支持向量机SVM_第19张图片

核函数与核方法

支持向量机SVM_第20张图片
    • 核函数
支持向量机SVM_第21张图片

只要一个对称函数所对应的核矩阵半正定,就能作为核函数使用

支持向量机SVM_第22张图片
2. 表示定理
支持向量机SVM_第23张图片

支持向量回归

支持向量机SVM_第24张图片
支持向量机SVM_第25张图片

你可能感兴趣的:(算法)