原问题与对偶问题

原问题

原问题与对偶问题_第1张图片

对偶问题

原问题与对偶问题_第2张图片

原问题与对偶问题之间的关系

原问题与对偶问题_第3张图片
原问题与对偶问题的间距G:
我们称f()
对于某些特定的优化问题,可以证明G=0。

强对偶定理

若f(w)为凸函数,且g(w)=Aw+b,h(w)=cw+d。则此优化问题的原问题与对偶问题间距为0。
原问题与对偶问题_第4张图片
我们把这个条件称为KKT条件。

你可能感兴趣的:(机器学习,机器学习,算法,线性代数)