无约束问题的极值条件

    有时候，我们希望根据一定的条件找到优化问题的极值点；另外一些时候，我们得到若干候选解，希望判断候选解中哪些是真正的极值点。这其中涉及非线性规划的极值条件问题。所谓非线性规划的极值条件，是指非线性规划模型最优解所要满足的必要或充分条件。本文介绍无约束非线性规划问题的极值条件。

1. 极值点的必要条件和充分条件

    一阶必要条件  设实值函数 在点 处可微，若是无约束优化问题 的局部极小点，则有

                              

    其中，表示函数 在点 处的梯度。

    二阶必要条件  设实值函数在点处二阶可微，若是无约束优化问题 的局部极小点，则有

                                且  

    其中，表示函数 在点 处的梯度，表示函数 在点 处的海赛矩阵，表示矩阵是半正定的。

    二阶充分条件  设实值函数在点处二阶可微，若  且  ，则为无约束问题的严格局部极小值。（注：需要海赛矩阵正定）

   

    以上结论对一般函数成立。针对凸函数（海赛矩阵恒正定），有以下充要条件

    充要条件  设为定义域上的可微凸函数，则为无约束问题的全局极小点的充要条件是。

2. 驻点性质判定

    所谓驻点，即一阶导数值为0的点。如果函数在此点二阶可微，可利用该点处的海赛矩阵来判定驻点的性质。

    假定为函数的驻点，并且该驻点处的海赛矩阵为，则有以下结论：

1.     若是正定的，则驻点为极小点（局部或全局）；
2.     若是负定的，则驻点为极大点（局部或全局）；
3.     若是不定的，则驻点为鞍点（即非极值点）；
4.     若是半定的（半正定或半负定），则驻点可能是极值点，也可能不是极值点，须视高阶导数性质而定。