深度学习SVM

SVM和KNN的对比：

Knn：计算距离哪个分类点尽

 

Svm：找到决策边界，划分数据

 

SVM分类原理：

支持向量积：

 

1支持向量

2寻找支持向量

3选出最好的决策边界

要点：

1支持向量的值要小

2决策边界要大

3先找支持向量，再找决策边界

实现步骤：

1距离计算：

 

 

2目标函数：

目的：找到一条线，使得离该线最近的点能够最远

 

放缩变换和优化目标：

 

3部分数学原理：

拉格朗日乘子法：

 

 

简化最终目标函数

 

 

例子：

 

 

4软间隔优化：

 

 

5核函数（重要）

作用：

 

升维效果：

 

实例展示：