支持向量机之拉格朗日乘子法

在上一篇文章中，我们介绍过了支持向量机算法的核心思想，在这篇文章中，将介绍使用拉格朗日乘子法来最大化支持向量与超平面之间的距离，下面可能涉及到的数学计算比较多，我会尽可能的细化求解过程。

一、找目标函数

先看一张图

我们将三角形的图标分为1类，将正方形图标分为-1类，通过红色直线（超平面）将1类和-1类分割开来，而其中1类的点和-1类的点距离超平面最近的点被称为支持向量，也就图中用红色圆圈标记的三角形和正方形。我们的目标就是将两个不同类别的支持向量组成的直线（两条蓝色直线）之间的距离最大化，两个平面的方程式已经给出了，其中的表示?权重，b表示偏置（截距）。所以，两个类的支持向量所组成的平面之间的距离为γ=2/(||ω||)，其中ω为平面的法向量，如果不清楚两个平行平面之间的距离是怎么计算的，请看下面的推导公式（排版可能有点乱）。下面给出两个平行平面的距离是如何计算的

那么，接下来的问题就是如何将γ进行