正定矩阵与海森矩阵

Hermitian Matrix:

复共轭对称方阵，即A=A^H，也就是a_{ij}=\overline {a_{ji}}

正定矩阵：

Hermitian matrix中的一种。设M是一个n* n实对称矩阵，若M是正定的，当且仅当对所有非零实系数的向量z，z^{T}Mz > 0

等价条件：

Mx=\lambda x
x^{T}Mx=x^{T}\lambda x > 0
因此，正定矩阵的特征值\lambda_{i}也应大于0.

Hessian Matrix：

一个多变量实值函数的二阶偏导数组成的方阵。

是否为对称阵：

如果f函数在区域D 内的每个二阶导数都是连续函数(其混合偏导数求导顺序没区别），那么f的海森矩阵在D区域内为对称矩阵。

应用：

判断驻点（一阶导数为0的点）为局部极值点或鞍点
n维情况下：
H为在驻点(x_0,y_0)处n*n维对称阵。

• H为正定矩阵，则该点为局部极小值点。
• H为负定矩阵，则该点为局部极大值点。
• H=0，则需要更高阶信息进行判断。

笔记