深度学习-偏导数复习

文章目录

  • 前言
  • 1.偏导数
  • 2.偏导数概念
    • 1.对x的偏导数
    • 2.对y的偏导数
    • 3.多元函数偏导数
    • 4.如何计算偏导数
      • 1.二元函数的偏导数
      • 2.复杂函数的偏导数
      • 3.分段函数
        • 1.分界点的偏导数
    • 5.偏导数与连续之间的关系
    • 6.偏导数的几何意义
    • 7.高阶偏导数
      • 1.定义
      • 2.高阶偏导数例题(二阶偏导数)
  • 3.全微分
    • 1.偏增量定义
    • 2.全增量定义
    • 3计算方式
  • 4.多元函数微分学的几何应用
    • 1.定义
    • 2.例题1
  • 5.方向导数
    • 1.方向导数定义
      • 2.方向导数的计算
      • 3. 方向导数和偏导数的关系
      • 4.方向导数计算
        • 1.例题1
        • 1.例题2
      • 5.三元函数的方向导数
        • 1.定义
        • 2.例题1
        • 3.例题2
  • 6.梯度
    • 1.定义-梯度就是沿着这个方向,方向导数能达到最大值
    • 2.方向导数和梯度的关系
      • 1.向量内积
      • 2.向量数量积
      • 3.梯度与方向导数
      • 4.梯度总结
      • 5.梯度的角度
      • 6.梯度的计算-1
      • 7.梯度的计算-2
      • 8.梯度的计算-3

前言

为了更好的理解梯度下降,重新看了一下梯度下降的高数课长,现在根据学习内容,把课件贴图,防止哪一天自己记不起来。

下面的内容是通过B站视频整理而来。

高数学习

深度学习-偏导数复习_第1张图片 深度学习-偏导数复习_第2张图片

1.偏导数

偏导数是一个整体,不能拆开

深度学习-偏导数复习_第3张图片 深度学习-偏导数复习_第4张图片

2.偏导数概念

1.对x的偏导数

深度学习-偏导数复习_第5张图片 其实就是把另外一个变量作为常数去区里。 深度学习-偏导数复习_第6张图片

2.对y的偏导数

深度学习-偏导数复习_第7张图片 深度学习-偏导数复习_第8张图片

3.多元函数偏导数

深度学习-偏导数复习_第9张图片

4.如何计算偏导数

深度学习-偏导数复习_第10张图片

1.二元函数的偏导数

深度学习-偏导数复习_第11张图片

2.复杂函数的偏导数

深度学习-偏导数复习_第12张图片 深度学习-偏导数复习_第13张图片

3.分段函数

1.分界点的偏导数

深度学习-偏导数复习_第14张图片

因为x,y是对称函数,所以它们俩的偏导数是相同的。
深度学习-偏导数复习_第15张图片

5.偏导数与连续之间的关系

沿着不同方向趋近于0,那么y=kx
二元函数,偏导数存在,不能证明二元函数连续

深度学习-偏导数复习_第16张图片

6.偏导数的几何意义

偏导数是正交的

深度学习-偏导数复习_第17张图片

7.高阶偏导数

1.定义

深度学习-偏导数复习_第18张图片

2.高阶偏导数例题(二阶偏导数)

深度学习-偏导数复习_第19张图片

3.全微分

A,和B是和x,y有关的量

1.偏增量定义

深度学习-偏导数复习_第20张图片

2.全增量定义

3计算方式

。。。

4.多元函数微分学的几何应用

1.定义

深度学习-偏导数复习_第21张图片 深度学习-偏导数复习_第22张图片 深度学习-偏导数复习_第23张图片

最后求出切线的方程

曲线的切向量
法平面

深度学习-偏导数复习_第24张图片

2.例题1

深度学习-偏导数复习_第25张图片 深度学习-偏导数复习_第26张图片

5.方向导数

1.方向导数定义

深度学习-偏导数复习_第27张图片 深度学习-偏导数复习_第28张图片

说明平面是连续的
深度学习-偏导数复习_第29张图片

2.方向导数的计算

导数就是斜率,方向导数就是某个点平面的斜率值

深度学习-偏导数复习_第30张图片

方向导数是关于角度的函数,因为偏导数已经确定了

深度学习-偏导数复习_第31张图片

3. 方向导数和偏导数的关系

方向导数存在,偏导数就存在,反之则不一定
方向导数是偏导数的推广

深度学习-偏导数复习_第32张图片 深度学习-偏导数复习_第33张图片

4.方向导数计算

1.例题1

深度学习-偏导数复习_第34张图片

1.例题2

5.三元函数的方向导数

1.定义

深度学习-偏导数复习_第35张图片

2.例题1

深度学习-偏导数复习_第36张图片

3.例题2

深度学习-偏导数复习_第37张图片

6.梯度

1.定义-梯度就是沿着这个方向,方向导数能达到最大值

单位向量,是指模等于1的向量

深度学习-偏导数复习_第38张图片

单位向量有无数个

深度学习-偏导数复习_第39张图片 深度学习-偏导数复习_第40张图片

梯度就是沿着这个方向,方向导数能达到最大值

深度学习-偏导数复习_第41张图片

2.方向导数和梯度的关系

1.向量内积

深度学习-偏导数复习_第42张图片

2.向量数量积

深度学习-偏导数复习_第43张图片

3.梯度与方向导数

深度学习-偏导数复习_第44张图片

4.梯度总结

深度学习-偏导数复习_第45张图片

5.梯度的角度

深度学习-偏导数复习_第46张图片

6.梯度的计算-1

深度学习-偏导数复习_第47张图片

7.梯度的计算-2

深度学习-偏导数复习_第48张图片

8.梯度的计算-3

你可能感兴趣的:(AI,深度学习,人工智能)