为什么梯度反方向是下降速度最快的方向？

 一、了解什么是导数。

    1、导数是变化率，是切线，是瞬时速度，是加速度（一元函数中）。

    2、导数是线性近似工作。

    3、导数是线性变换。

        如何理解导数的概念 ?

二、 了解偏导数，方向导数。

        多元函数中全微分与偏导数、偏微分的直观区别是什么？

三、方向导数与梯度的关系。

        如何直观形象的理解方向导数与梯度以及它们之间的关系？

        方向导数与梯度

四、从泰勒展开式的角度理解。

五、从方向导数的角度理解。

偏导的几何意义：平行于x轴或y轴方向的垂直平面上截线的斜率。

方向导数的几何意义：就是某一方向上垂直平面截线在该方向的斜率 。

u微量所在平面且垂直于xoy的面平与z=f(x,y)曲面所截取的取线

xoy平面的方向向量，夹角关系

方向导数定理：

方向导数求解公式

xoy平面的方向向量

此定量，由全微分证明。

引入一个标识：

即

我们称grad为Nabla算子（数学符号），剃度是物理概念。

方向导数我们可以写成向量点积的形式：

即梯度向量乘以方向向量，我们可以理解方向导数为剃度向量在方向向量上的投影。

剃度向量与方向导数关系推导

剃度与方向导数夹角关系

剃度大小是因定的，方向量向由夹角来确定，所以我们可以根据方向向量和剃度向量来计算方向导数。

由上图可以知，与g向量方向相同的方向向量其方向导数值最大。g为剃度向量。所以剃度的反说反方向为函数减小最快的方向。

等高线与剃度的关系

等高线上某一点的导数为：

此切线的法向量为，

而由剃度向量可知

所以剃度方向与等高线的法向量同向，且剃度方向由函数值较低的等高线指向函数值较高的等高线。

[Math & Algorithm] 拉格朗日乘数法 - Poll的笔记 - 博客园

方向导数PPT