凸优化--对偶问题 for SVM

http://www.hanlongfei.com/convex/2015/11/05/duality/?from=timeline

凸优化--对偶问题 for SVM_第1张图片

为啥要最大化?

用上面的x+3y例子  确实是应该求最大 为啥呢?


可以理解为,如果最小值是4,那么他确实是大于等于2的,但是2肯定不是要求的最小值;再进行试探,是否大于等于3,大于等于4?最后发现符合约束的最大的数字就到4了,就说明,4是要找的最小值了呗。

凸优化--对偶问题 for SVM_第2张图片

这又是什么神操作?  u,b,v,h都是常数  另外为什么只有v限制小于等于零,因为u无论正负,chengzaiy一个等式左右,并无什么影响,v只有是正的,才能使小于等于号变成大于等于号,是最后结果变成一个大于等于,才可以利用之前讨论的对偶形式。

但是突然发现,我这是认为v应该大于等于零,可是实际竟然是小于等于零???绝对写错了!!

凸优化--对偶问题 for SVM_第3张图片

下文中就写了大于等于零


凸优化--对偶问题 for SVM_第4张图片


凸优化--对偶问题 for SVM_第5张图片

一个线性函数ax+b,如果a不为0,那么这个函数的最小值为负无穷?对呀 ,x可以取值负无穷到正无穷的一条直线的最小值,可不就是负无穷

凸优化--对偶问题 for SVM_第6张图片

凸优化--对偶问题 for SVM_第7张图片

跟KKT条件有什么关系?

你可能感兴趣的:(笔记)