3. SVM分类器求解(1)——Lagrange duality

先抛开上面的二次规划问题,先来看看存在等式约束的极值问题求法,比如下面的最优化问题:

clip_image002

目标函数是f(w),下面是等式约束。通常解法是引入拉格朗日算子,这里使用clip_image004来表示算子,得到拉格朗日公式为

clip_image006

clip_image008是等式约束的个数。

然后分别对w和clip_image002[4]求偏导,使得偏导数等于0,然后解出w和clip_image004[4]

然后我们探讨有不等式约束的极值问题求法,问题如下:

clip_image002[6]

我们定义一般化的拉格朗日公式

clip_image004[6]

这里的clip_image006[4]clip_image008[4]都是拉格朗日算子。如果按这个公式求解,会出现问题,因为我们求解的是最小值,而这里的clip_image010已经不是0了,我们可以将clip_image006[5]调整成很大的正值,来使最后的函数结果是负无穷。因此我们需要排除这种情况,我们定义下面的函数:

clip_image012

这里的P代表primal。假设clip_image014或者clip_image016,那么我们总是可以调整clip_image006[6]clip_image008[5]来使得clip_image018有最大值为正无穷。而只有g和h满足约束时,clip_image018[1]为f(w)。这个函数的精妙之处在于clip_image020,而且求极大值。

因此我们可以写作

clip_image002[8]

这样我们原来要求的min f(w)可以转换成clip_image004[8]了。

clip_image006[10]

我们使用clip_image008[8]来表示clip_image004[9]。如果直接求解,首先面对的是两个参数,而clip_image002[14]也是不等式约束,然后再在w上求最小值。这个过程不容易做,那么怎么办呢?

我们先考虑另外一个问题clip_image012[4]

D的意思是对偶,clip_image002[10]将问题转化为先求拉格朗日关于w的最小值,将clip_image004[12]clip_image006[12]看作是固定值。之后在clip_image002[11]求最大值的话:

clip_image009

这个问题是原问题的对偶问题,相对于原问题只是更换了min和max的顺序,而一般更换顺序的结果是clip_image011,如clip_image002[1]。 然而在这里两者相等。用clip_image012[6]来表示对偶问题如下:

clip_image014[4]

下面解释在什么条件下两者会等价。假设f和g都是凸函数,h是仿射的(affine,there existsclip_image016[4]clip_image018[6],so thatclip_image020[4])。并且存在w使得对于所有的i,clip_image022。在这种假设下,一定存在clip_image024使得clip_image026是原问题的解,同时也是对偶问题的解,即clip_image030,此时clip_image024[1]满足库恩-塔克条件(Karush-Kuhn-Tucker, KKT condition),条件如下:

clip_image002[3]

所以如果clip_image004[1]满足了库恩-塔克条件,那么他们就是原问题和对偶问题的解。让我们再次审视公式(5),这个条件称作是KKT dual complementarity条件。这个条件隐含了如果clip_image006[1],那么clip_image008[1]。也就是说,clip_image008[2]时,w处于可行域的边界上,这时才是起作用的约束。而其他位于可行域内部(clip_image010[1]的)点都是不起作用的约束,其clip_image012[1]

KKT的总体思想是将极值会在可行域边界上取得,也就是不等式为0或等式约束里取得,而最优下降方向一般是这些等式的线性组合,其中每个元素要么是不等式为0的约束,要么是等式约束。对于在可行域边界内的点,对最优解不起作用,因此前面的系数为0。上述数学知识可参见凸优化教程《Convex Optimization》——Stephen Boyd

你可能感兴趣的:(dual)