链式法则 理解应用

链式法则是微积分中的求导法则，用于求一个复合函数的导数，是在微积分的求导运算中一种常用的方法。复合函数的导数将是构成复合这有限个函数在相应点的 导数的乘积，就像锁链一样一环套一环，故称链式法则。

为啥提链式法则，因为这对深度学习，神经网络的参数求解计算起着绝对的影响作用，之前提过神经网络中基本使用了梯度下降法进行参数优化求解，具体关于神经网络的基本组成单元感知机，神经网络是很多感知机根据复杂的连接关系构成，所以详细可以看看感知机的梯度下降求解参数过程就能知道神经网络中每个感知机的参数求解了。

因为感知机的函数关系很简单，可以直接求解，但是神经网络是很多层感知机连接在一起，第一层感知机把数据信息传递给下一层，于是这样的关于我们最终的损失函数Loss和第一层或者第二层（针对多层神经网络）的感知机的参数求解就很麻烦了，于是我们需要利用微积分中的链式法则求解层层参数关系的导数计算。

一、链式法则

链式法则是将复杂函数进行简单化，其基本表达关系如下：

二、举个栗子

比如函数

y=(2x+e^x)^2

关于y的导函数的计算，咋一看好像很复杂，但根据链式法则就是

y=u^2
u=2x+e^x
dy/du=2u
du/dx=2+e^x
于是
dy/dx=(dy/du)*(du/dx)
=(2u)*(2+e^x)
=(2*(2x+e^x))*(2+e^x)

这样就是把复杂函数化简成我们熟知的常见导函数形式。

三、常见的导函数求解公式表

顺便贴一下。