支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件

本文将初学者在硬间隔优化这一部分会遇到的问题基本都进行了说明和推导,包括为什么要取max以及互补松弛条件到底是什么,支持向量到底体现在哪里。

但是本文并没有引入说明支持向量的优化问题是怎么引出的。这里希望读者能够先自行了解支持向量的目标函数以及约束问题怎么来的。这部分并不难,随后可以参考这篇文章。

本文将会从头到尾进行推导,除了证明强对偶性之外,其他定理都有详细的推导。还会从图像的角度证明互补松弛条件。篇幅较大,但是足够详细。如有错误,请指出。
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第1张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第2张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第3张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第4张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第5张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第6张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第7张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第8张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第9张图片
支持向量机(SVM)优化算法原理超详细证明过程,几何的角度证明互补松弛条件_第10张图片

你可能感兴趣的:(算法原理,机器学习,svm,支持向量机,人工智能,拉格朗日乘子法)