《数学基础》-2.微积分-2.3.多元微积分

2.3.多元微积分

2.3.1.偏导数

《数学基础》-2.微积分-2.3.多元微积分_第1张图片

《数学基础》-2.微积分-2.3.多元微积分_第2张图片

《数学基础》-2.微积分-2.3.多元微积分_第3张图片

《数学基础》-2.微积分-2.3.多元微积分_第4张图片

二阶偏导数

《数学基础》-2.微积分-2.3.多元微积分_第5张图片

《数学基础》-2.微积分-2.3.多元微积分_第6张图片

2.3.2.多元复合函数的求导法则

《数学基础》-2.微积分-2.3.多元微积分_第7张图片

《数学基础》-2.微积分-2.3.多元微积分_第8张图片

《数学基础》-2.微积分-2.3.多元微积分_第9张图片

2.3.3.方向导数与梯度

以二元函数为例:

t从图像上看实际上就是从的距离

《数学基础》-2.微积分-2.3.多元微积分_第10张图片

方向导数:

证明:方向导数可写为:

分别看加号两边的两项,先看左边,分子分母同时乘上

的时候,所以可以把看做是,上式变成:

根据最上面偏导数的定义公式,把看成一个整体,可转换为:

由于,所以有

再看右边,,分子分母同时乘上

同样,把看做,上式变为:

根据最上面偏导数的定义公式,上式变为:

证毕

梯度:

《数学基础》-2.微积分-2.3.多元微积分_第11张图片

《数学基础》-2.微积分-2.3.多元微积分_第12张图片

为什么梯度方向是变化最快的方向?

《数学基础》-2.微积分-2.3.多元微积分_第13张图片

已知:x⃗ ,y⃗分别是二元函数f(x,y)在点处沿x,y轴的偏导数,是任意方向的方向导数。

求证:的方向是二元函数f(x,y)在点处变化最快的方向。

证明:

函数f(x,y)在点处沿方向的变化率为

最大等价于点与点(cosθ,sinθ)的内积最大(内积的坐标定义),

将上面的内积化为向量形式:记,则,其中α是的夹角;

最大等价于最大,在问题的设定下θ是变量,于是等价于方向平行,而的方向就是的方向,故的方向取的方向时,取到最大变化率。

于是由梯度的数值化定义出发,可以证明梯度方向就是方向导数值最大的那个方向,这个方向就是的方向(注意看它的坐标)。

以上都是在二元函数的情况下进行证明的,同理可以证明多元函数的情况。

《数学基础》-2.微积分-2.3.多元微积分_第14张图片

《数学基础》-2.微积分-2.3.多元微积分_第15张图片

《数学基础》-2.微积分-2.3.多元微积分_第16张图片

2.3.4.多元函数泰勒公式

《数学基础》-2.微积分-2.3.多元微积分_第17张图片

《数学基础》-2.微积分-2.3.多元微积分_第18张图片

实际使用中,只要展开的前面两项

可以看到第一项是0次项,第二项是一次项,第三项是二次项,后面的三次项一般都省略不用。

其中第二项可以看做是:

第三项可以看做是:

.

海森矩阵:

《数学基础》-2.微积分-2.3.多元微积分_第19张图片

《数学基础》-2.微积分-2.3.多元微积分_第20张图片

中间的海森矩阵是对称矩阵,通项为:

例如矩阵第一行为:

2.3.5.多元函数的极值

《数学基础》-2.微积分-2.3.多元微积分_第21张图片

《数学基础》-2.微积分-2.3.多元微积分_第22张图片

这里,A、B、C组成的为海森矩阵

证明:假设(x,y)是领域内的一个点,则在这个点上用泰勒展开得:

之前讨论正定矩阵的时候有过结论:

一个矩阵A是正定矩阵,则在他的左右两边乘以向量及向量转置大于0:

一个矩阵A是负定矩阵,则在他的左右两边乘以向量及向量转置小于0:

一个矩阵A是半正定矩阵,则在他的左右两边乘以向量及向量转置大于等于0:

由上可得:

是极小值

是极大值

接下来要判断矩阵啥时候正定,根据正定的定理可知,如果一个矩阵正定,那么它的所有特征值要大于0。如果一个矩阵不正定,那么它的所有特征值要小于0。

《数学基础》-2.微积分-2.3.多元微积分_第23张图片

    

《数学基础》-2.微积分-2.3.多元微积分_第24张图片

综上,条件(1)得证,其他两个证明略

2.3.6.矩阵的求导

常见性质

《数学基础》-2.微积分-2.3.多元微积分_第25张图片

《数学基础》-2.微积分-2.3.多元微积分_第26张图片

 

你可能感兴趣的:(笔记,机器学习,偏微分方程)