高数基础

导数

导数就是函数的斜率,是函数变化快慢的反应

二阶导数是反应斜率变化快慢,用于判断函数的凸凹性

常见函数的导数


导数的运算法则


复合函数运算法则


空间解析几何和向量代数

高数基础_第1张图片

多元函数微分法


高数基础_第2张图片

方向导数与梯度

高数基础_第3张图片

凸优化-凸函数作用

       为什么要求是凸函数呢?因为如果是下图这样的函数,则无法获得全局最优解。

高数基础_第4张图片

曲线的凹凸性与拐点

高数基础_第5张图片


凹凸性的判别
高数基础_第6张图片
凸函数的一般形式
高数基础_第7张图片
凸函数性质应用
高数基础_第8张图片
凸函数性质应用


凸集

高数基础_第9张图片

凸集作用

高数基础_第10张图片

函数的极值

高数基础_第11张图片

求函数的极值步骤

高数基础_第12张图片

高数基础_第13张图片

多元函数求极值

高数基础_第14张图片

高数基础_第15张图片

通过这个方程可以解得驻点M,这个驻点是一个长度为的一维向量。但是我们仅仅得到这个驻点,其实在这个驻点有3种情况,分别是:局部极大值,局部极小值和非极值

所以要判断这个驻点属于这3个中的哪一个。所以就引入了Hessian矩阵,也就是说它用来判断在多元函数的凹凸性问题。

Hessian 矩阵

高数基础_第16张图片

高数基础_第17张图片

 Hessian矩阵

 (1)如果是正定矩阵,则临界点处是一个局部极小值

 (2)如果是负定矩阵,则临界点处是一个局部极大值

 (3)如果是不定矩阵,则临界点处不是极值

实二次型矩阵为正定二次型的判断方法

判断一个矩阵是否是正定方法:

       1、顺序主子式:实对称矩阵为正定矩阵的充要条件是的各顺序主子式都大于零。

       2、特征值:矩阵的特征值全大于零,矩阵为正定。矩阵的特征值全小于零,矩阵为负定。否则是不定的。

最速下降法求函数极值


高数基础_第18张图片

拉格朗日乘子法

高数基础_第19张图片






你可能感兴趣的:(数学)