支持向量机

1、在 支持向量机通俗导论(理解SVM的三层境界)(博客地址支持向量机通俗导论(理解SVM的三层境界) - CSDN博客)中提到目标函数


中的拉格朗日乘子 α,所有非支持向量的α都是0,为什么?

因为:

上式中KKT条件为:


   αi >=0

=0


所以对于非支持向量,已经满足第一个条件,只有当αi=0时才能满足所有这三个条件。参考 模式识别与机器学习附录拉格朗日乘数法

2、SVM是如何引入核函数的?

从分类函数引入


支持向量机_第1张图片

那么公式(31)是如何得到的?

在对拉格朗日目标函数

最小化时,使L对w和b的偏导为0得到的


支持向量机_第2张图片

为什么要让两个偏导为0?

这是因为最值点(其实是驻点)满足


(E.3)这个公式是怎么得到的?

因为求的是驻点。

那么这个拉格朗日目标函数是怎么得到的?

这是最大化分类间隔的等价形式,从函数间隔推导出几何间隔,再由最大化几何间隔得到这个等价形式。详见 支持向量机通俗导论(理解SVM的三层境界)

3、不理解为什么

4、 支持向量机通俗导论(理解SVM的三层境界)中有如下内容,从公式(18)到公式(20)如何理解?

支持向量机_第3张图片

因为求解L时要满足约束条件

同时又要最小化L,只有当约束项等于0时求出的解才能满足所有约束条件,此时就变成了最小化

你可能感兴趣的:(支持向量机)