支持向量机SVM思维导图

自己整理了一个SVM的思维导图，我也是初学者，如果有错误请指正。关于SVM的基本理论不多做赘述，只简单说明了一下导图的整理思路。主要学习和参考资料附在文末。

支持向量机的基本思想就是在样本空间中找到一个划分超平面。

目标是找到一个能分开两类的超平面，而最优解就是距离两类样本都有最大间隔。

写作数学描述后，此问题是一个凸二次优化问题。凸优化即目标函数和约束函数是凸函数，即可以找到最优解。

之后进行求解时会用到拉格朗日乘数法。将有约束的原始目标函数转换为无约束的新构造的拉格朗日目标函数。再将不易求解的优化问题转化为易求解的优化，此处涉及对偶性问题以及对偶问题的解何时可以等同于原问题的解。最后求解对偶问题得到结果。

以上是线性SVM的解决方法，非线性的svm我们会首先将其映射到另一个能使它变得线性可分的空间（通常高维），然后再进行划分。这里就涉及到核函数方法。在定义了一个核函数方法的同时就定义了一个再生希尔伯特空间。

参考资料：

[1] https://cuijiahua.com/blog/2017/11/ml_8_svm_1.html

[2] https://cuijiahua.com/blog/2017/11/ml_9_svm_2.html

[3] https://zhuanlan.zhihu.com/p/73477179?utm_source=wechat_session&utm_medium=social&utm_oi=1125847523901984769&utm_campaign=shareopn

[4] https://zhuanlan.zhihu.com/p/52168498?utm_source=wechat_session&utm_medium=social&utm_oi=1125847523901984769&utm_campaign=shareopn&s_r=0

[5] https://zhuanlan.zhihu.com/p/442938770?utm_source=wechat_session&utm_medium=social&s_r=0

[6] https://www.bilibili.com/video/BV1nx41157xz?p=1&share_medium=android&share_plat=android&share_session_id=90942590-cbb8-430a-afe2-ec307d8fa844&share_source=WEIXIN&share_tag=s_i×tamp=1642581354&unique_k=YwQOpjm

[7] https://www.bilibili.com/video/BV1HP4y1Y79e?p=1&share_medium=android&share_plat=android&share_session_id=00467fbf-f936-4823-a78b-66343598951b&share_source=WEIXIN&share_tag=s_i×tamp=1640932464&unique_k=eyHP0i3