人工智能初学- 1.5 支持向量机

术语概念

1. 分割面

2. 超平面

3.间隔

4.支持向量

支持向量机是一种二分类模型,定义在特征空间上的间隔最大的线性分类器

 

人工智能初学- 1.5 支持向量机_第1张图片

 

三种情况

1. 线性可分

2.近似线性可分

3.非线性可分

人工智能初学- 1.5 支持向量机_第2张图片

线性可分

计算过程

 

人工智能初学- 1.5 支持向量机_第3张图片

 

è¿éåå¾çæè¿°

 

得到的目标:

人工智能初学- 1.5 支持向量机_第4张图片

 

以下两个博客给出了比较详细的推导过程:

https://blog.csdn.net/m0_37725003/article/details/80917974

https://blog.csdn.net/CSDNedu/article/details/78595428

 

实现方式:

人工智能初学- 1.5 支持向量机_第5张图片

人工智能初学- 1.5 支持向量机_第6张图片

人工智能初学- 1.5 支持向量机_第7张图片

人工智能初学- 1.5 支持向量机_第8张图片

人工智能初学- 1.5 支持向量机_第9张图片

 

近似线性可分

 

人工智能初学- 1.5 支持向量机_第10张图片

è¿éåå¾çæè¿°

人工智能初学- 1.5 支持向量机_第11张图片

非线性可分

人工智能初学- 1.5 支持向量机_第12张图片

这里我们要做的就是找到一种变换的方法,将数据的特征进行高维的映射,但是问题也来了,这样的计算复杂度是不是也上来了呀!其实是这个样子的SVM在数学上有这样一个巧合,我们可以把高维特征的内积在低维当中直接计算好然后做映射也是一样,恰好解决计算的问题!

人工智能初学- 1.5 支持向量机_第13张图片

人工智能初学- 1.5 支持向量机_第14张图片

SMO算法

人工智能初学- 1.5 支持向量机_第15张图片

人工智能初学- 1.5 支持向量机_第16张图片

人工智能初学- 1.5 支持向量机_第17张图片

人工智能初学- 1.5 支持向量机_第18张图片

人工智能初学- 1.5 支持向量机_第19张图片

人工智能初学- 1.5 支持向量机_第20张图片

人工智能初学- 1.5 支持向量机_第21张图片

人工智能初学- 1.5 支持向量机_第22张图片

人工智能初学- 1.5 支持向量机_第23张图片

人工智能初学- 1.5 支持向量机_第24张图片

关于SMO 算法的理论推导可以参考

https://www.cnblogs.com/xxrxxr/p/7538430.html

https://www.cnblogs.com/pinard/p/6111471.html

你可能感兴趣的:(AI)