数学必知必会----导数、梯度与积分

from sympy import *
x=Symbol("x")
diff(x**3 + x**2)
#3x**2 + 2**x

一、导数

导数的实质就是曲线切线的斜率

1.1常用的倒数

1.2复合函数求导

1.2.1链式法则

1.2.2多元函数求导：偏导数（偏微分）

链式法则

多元函数求导的法则

二、积分

                         积分是微分的逆运算，即知道了函数的 导函数，反求原函数。在应用上，积分作用不仅如此，它被大量应用于求和，通俗的说是求 曲边三角形的面积，这巧妙的求解方法是积分特殊的性质决定的。

更多推导公式点击这里

定积分

不定积分

拓展

● 微分的相关知识

---

三、均方误差

3.1导数应用

3.2线性回归的应用

四、梯度

4.1导入

4.2定义：

一元函数在y=f(x)在点x^o的梯度是

二元函数在y=f(x，y)在点(x^o,y^0)的梯度是

4.3事例

4.4理解方法

4.5梯度下降法定义

4.6局部极限值

4.7下降法求最小值方法

定义

4.7.1抛小球法—momentum

4.7.2Nesterov

4.7.3自适应

4.7.4AdaDelta以及RMSprop

4.7.5选择