微分与导数

1.微分表达自变量增量与因变量增量的线性关系

2.可微必连续，连续不一定可微

3.可微必可导，对一元函数，可导必可微

4.导数不存在的点不代表切线不存在

有了数列极限、连续函数的基础，我们可以进去进入微分与导数的学习了。它们在机器学习中具有基础性的作用，很多最优化算法与它们息息相关。话不多说，进入正题！

1

可微与可导

对于函数y=f(x)，x是自变量，y是因变量.很多情况我们想研究因变量对自变量的敏感度，即x的增量引起y变化量的大小。我们需要利用微分的定义：

这里需要关注的地方有三点，第一，Δx表达的是对自变量x的增量，当这个增量趋于0时，我们就可以将研究的动态过程转化为静态进行研究。第二，Δy表达了对于自变量增量的改动函数变化的大小，而微分要表达的是函数变化大小Δy与自变量变化大小Δx呈一种线性关系，也就是定义里面的“线性主要部分”，且这种线性是关于Δx的一阶相关，要是无法找到与其一阶相关的，就不是微分的定义。第三，dx是在Δx趋于0的时候的记号，显然，此时dy也是趋于0的，它们都是无穷小，而它们趋于0速度的大小关系由g(x)决定（高阶、同阶或等价）。由此可知，g(x)代表了由自变量变化量而引起因变量变化量大小的因此，不妨称它为“变化量因子”，它就是下面即将介绍的导数概念。

• 例1

• 例2
  

根据此，我们知道连续函数不一定可微，那么可微是否一定连续呢。答案是肯定的。

因此可微是连续的充分不必要条件，连续是可微的必要不充分条件：

可微必连续，连续不一定可微

下面我们给出导数的定义：

看起来，微分与导数存在关系，我们有：

可微函数必可导，一元可导函数必可微

注：在多元函数中，可微与可导不是等价的。也即多元可导函数不一定可微

导数具有很多的现实意义。比如在几何上，切线是指过函数一点且只与该点相交的直线。这样的定义是不精准的，有了极限的概念，我们定义：

切线是割线的极限位置

我们举两个例子.

• 例3
  

对于绿色曲线，我们做点A的切线，先过点A做割线AC，根据定义，只要C无限接近A，就是要求的切线。显然可知切线的斜率为:

由导数定义可知，过点A的切线斜率等于函数在该点的导数.

• 例4

我们来算一算椭圆的切线。

2

左右导数

在函数极限中，有左极限和右极限的概念。导数本质也是一个极限，因此，也存在左导数、右导数概念。

显然我们马上可以推出：

这里我们要注意左右导数与导函数左右极限的记号区别：

我们举几个例子。

• 例5
  

• 例6

• 例7

我们知道，区间上函数的连续性，同样的，可导也有区间的概念：

f(x)在开区间(a,b)每一点均可导,则称f(x)在(a,b)上可导，进一步，若f(x)在a点右导数存在,在b点左导数存在,则称f(x)在闭区间[a,b]上可导

我们来看一个例子。

注意，其在点a,-a的导数不存在，为无穷，但其切线是存在的：

因此我们要注意，导数不存在不代表切线不存在.