拉格朗日函数

一、拉格朗日函数作用

拉格朗日函数主要处理有约束条件的函数

二、拉格朗日函数表达式

定义某原始最优化问题的拉格朗日函数为:

其中 ci 是第 i 个不等式约束函数,bj 是第 j 个等式约束函数
αi 和βi 是拉格朗日乘子 

三、拉格朗日函数特性


若 x 不满足之前的约束条件:

拉格朗日函数_第1张图片 

若 x 满足约束条件: 

 拉格朗日函数

拉格朗日函数_第2张图片

如果对于进行极小化,

就相当于对原始最优化问题进行极小化,它们拥有相同的解 

对偶问题 (f(x) 和ci函数是凸函数时阔以用

定义

此时极大化

 

称为拉格朗日的极大极小问题,也称为原始问题的对偶问题

拉格朗日函数_第3张图片

你可能感兴趣的:(支持向量机,机器学习,算法)