KKT该要算法

作用

拉格朗日乘数法用于寻找约束到一个或多个等式的优化问题的解决方案。 当我们的约束也有不等式时，我们需要将该方法扩展到KKT条件。

公式
回想一下拉格朗日乘数条件的几何：目标函数的梯度必须正交于（活动）约束的切平面。 那就是f的梯度在与约束“表面”相切的方向空间上的投影为零。 在约束的情况下，KKT条件是类似条件。

为不等式约束引入松弛变量si：gi [x] + si 2 == 0 构造拉格朗日

条件

The KKT conditions are the following:

KKT工作的最后一个要求是，在可行点上f的梯度必须是等式约束的梯度和活动约束的梯度的线性组合：这通常称为可行点的规则性。

在约束的可行点上，活动约束是gi [x] = 0的g的那些分量（如果约束函数的值<0，则认为该约束无效）。

一组KKT方程的解根据不等式约束为有效和无效的情况进行。