最优化基础

这篇主要是介绍基础概念，和重要的性质

凸集

，都存在,则称C为凸集

开集

，则称C为开集

超平面

使得为常量

支撑面

平面a如果与凸体Q有公共点，且Q在a的一侧，则称a为Q的支撑面

凸函数

满足以下两个条件的函数

1）函数的作用域是凸集

2）,都有

凸函数的性质：(懒得打了，复制了附1中的图片)

还有一个性质，当hessian阵为正定阵时，凸函数为严格凸，但是反向并不成立

一阶判定条件：利用'(x)证明

二阶判定条件：利用中值定理和泰勒展开式证明

梯度

一个函数的全部偏导数构成的向量

hessian阵

函数的二阶偏导矩阵

半正定矩阵

，x'Ax>=0，则称A为半正定矩阵，充要条件是矩阵的特征值全部>=0

鞍点

在微分方程中，沿着某一方向是稳定的，另一条方向是不稳定的奇点，叫做鞍点。在泛函中，既不是极大值点也不是极小值点的临界点，叫做鞍点。在矩阵中，一个数在所在行中是最大值，在所在列中是最小值，则被称为鞍点

参考资料

1.凸函数的性质：https://www.cnblogs.com/wander-clouds/p/8569144.html