机器学习入门(7)--导数

申明：本篇文章将复习一些数学概念，来自于百度百科

概述

导数（Derivative）是微积分中的重要基础概念。当函数y=f(x)的自变量x在一点x0上产生一个增量Δx时，函数输出值的增量Δy与自变量增量Δx的比值在Δx趋于0时的极限a如果存在，a即为在x0处的导数，记作f'(x0)或df(x0)/dx。

导数是函数的局部性质。一个函数在某一点的导数描述了这个函数在这一点附近的变化率。如果函数的自变量和取值都是实数的话，函数在某一点的导数就是该函数所代表的曲线在这一点上的切线斜率。导数的本质是通过极限的概念对函数进行局部的线性逼近。例如在运动学中，物体的位移对于时间的导数就是物体的瞬时速度。

不是所有的函数都有导数，一个函数也不一定在所有的点上都有导数。若某函数在某一点导数存在，则称其在这一点可导，否则称为不可导。然而，可导的函数一定连续；不连续的函数一定不可导。

对于可导的函数f(x)，xf'(x)也是一个函数，称作f(x)的导函数。寻找已知的函数在某点的导数或其导函数的过程称为求导。实质上，求导就是一个求极限的过程，导数的四则运算法则也来源于极限的四则运算法则。反之，已知导函数也可以倒过来求原来的函数，即不定积分。微积分基本定理说明了求原函数与积分是等价的。求导和积分是一对互逆的操作，它们都是微积分学中最为基础的概念。

定义

设函数y=f(x)在点x0的某个邻域内有定义，当自变量x在x0处有增量Δx，(x0+Δx)也在该邻域内时，相应地函数取得增量Δy=f(x0+Δx)-f(x0)；如果Δy与Δx之比当Δx→0时极限存在，则称函数y=f(x)在点x0处可导，并称这个极限为函数y=f(x)在点x0处的导数记为f'(x0)，也记作y'│x=x0或dy/dx│x=x0，即导函数

导函数

如果函数y=f(x)在开区间内每一点都可导，就称函数f(x)在区间内可导。这时函数y=f(x)对于区间内的每一个确定的x值，都对应着一个确定的导数，这就构成一个新的函数，称这个函数为原来函数y=f(x)的导函数，记作y'、f'(x)、dy/dx或df(x)/dx，简称导数。

几何意义

函数y=f(x)在x0点的导数f'(x0)的几何意义：表示函数曲线在点P0(x0,f(x0))处的切线的斜率（导数的几何意义是该函数曲线在这一点上的切线斜率）。

求导法则

基本的求导法则如下：

1.求导的线性性：对函数的线性组合求导，等于先对其中每个部分求导后再取线性组合。

2.两个函数的乘积的导函数，等于其中一个的导函数乘以另一者，加上另一者的导函数与其的乘积

3.两个函数的商的导函数也是一个分式。其中分子是分子函数的导函数乘以分母函数减去分母函数的导函数乘以分子函数后的差，而其分母是分母函数的平方。

为了便于记忆，有人整理出了以下口诀：

1. 常为零，幂降次

2. 对倒数（e为底时直接倒数，a为底时乘以1/lna）

3. 指不变（特别的，自然对数的指数函数完全不变，一般的指数函数须乘以lna）

4. 正变余，余变正

5. 切割方（切函数是相应割函数（切函数的倒数）的平方）

6. 割乘切，反分式

公式

这里将列举14个基本初等函数的导数。

基本初等函数的导数

性质

单调性

⑴若导数大于零，则单调递增；若导数小于零，则单调递减；导数等于零为函数驻点，不一定为极值点。需代入驻点左右两边的数值求导数正负判断单调性。

⑵若已知函数为递增函数，则导数大于等于零；若已知函数为递减函数，则导数小于等于零。

根据微积分基本定理，对于可导的函数，有：

如果函数的导函数在某一区间内恒大于零（或恒小于零），那么函数在这一区间内单调递增（或单调递减），这种区间也称为函数的单调区间。导函数等于零的点称为函数的驻点，在这类点上函数可能会取得极大值或极小值（即极值可疑点）。进一步判断则需要知道导函数在附近的符号。对于满足的一点，如果存在使得在之前区间上都大于等于零，而在之后区间上都小于等于零，那么是一个极大值点，反之则为极小值点。

凹凸性

可导函数的凹凸性与其导数的单调性有关。如果函数的导函数在某个区间上单调递增，那么这个区间上函数是向下凹的，反之则是向上凸的。如果二阶导函数存在，也可以用它的正负性判断，如果在某个区间上 恒大于零，则这个区间上函数是向下凹的，反之这个区间上函数是向上凸的。曲线的凹凸分界点称为曲线的拐点。