机器学习数学基础 - 导数和偏导数

概述

导数（Derivative）是微积分中的重要基础概念。当函数y=f(x)的自变量x在一点x0上产生一个增量Δx时，函数输出值的增量Δy与自变量增量Δx的比值在Δx趋于0时的极限a如果存在，a即为在x0处的导数，记作f’(x0)或df(x0)/dx。
导数是函数的局部性质。一个函数在某一点的导数描述了这个函数在这一点附近的变化率。如果函数的自变量和取值都是实数的话，函数在某一点的导数就是该函数所代表的曲线在这一点上的切线斜率。导数的本质是通过极限的概念对函数进行局部的线性逼近。例如在运动学中，物体的位移对于时间的导数就是物体的瞬时速度。
在数学中，一个多变量的函数的偏导数（partial derivative），就是它关于其中一个变量的导数而保持其他变量恒定（相对于全导数，在其中所有变量都允许变化）。

导数

设函数y=f(x)在点x0的某个邻域内有定义，当自变量x在x0处有增量Δx，(x0+Δx)也在该邻域内时，相应地函数取得增量Δy=f(x0+Δx)-f(x0)；如果Δy与Δx之比当Δx→0时极限存在，则称函数y=f(x)在点x0处可导，并称这个极限为函数y=f(x)在点x0处的导数记作①f’(x0) ；②y’│x=x0 ；③ │x=x0， 即

偏导数

定义

在一元函数中，我们已经知道导数就是函数的变化率。对于二元函数我们同样要研究它的“变化率”。然而，由于自变量多了一个，情况就要复杂的多。见下图：

如上，
在xOy平面内，当动点由P(x0,y0)沿不同方向变化时，函数f(x,y)的变化快慢一般说来是不同的，因此就需要研究f(x,y)在(x0,y0)点处沿不同方向的变化率。
在这里我们只学习函数f(x,y)沿着平行于x轴和平行于y轴两个特殊方位变动时，f(x,y)的变化率。
偏导数的表示符号为:∂。
偏导数反映的是函数沿坐标轴正方向的变化率。

表示

如果函数z=f(x,y)在区域D内每一点（x，y）处对x的偏导数都存在，那么这个偏导数就是x、y的函数，称其为函数z=f（x，y）对自变量x的偏导函数，记作：

【未完待续】

---

http://dec.jlu.edu.cn/baozi/upload/000007/html/8_2.htm