BP网络与CNN反向传播推导过程，由具体到抽象的推导

BP网络的反向传播是CNN/DCNN的基础，只要明白了BP反向传播原理以及推导过程CNN便迎刃而解。因为BP网络的递推特点使得根据损失函数来推导权重W比较繁琐，很多博客都进行了详细推理。有的推导比较抽象但逻辑清晰、有的推导很具体但是不容易把握思路；如果把他们综合起来看理解就不困难，而且能让你不但知其然还能够知其所以然。我在这里找了几个典型的博客，建议大家根据列出的顺序来看。本篇文章不是我做算法推导，而是收集几篇比较好的博客让想学的朋友少走弯路（当然还有很多比较好的文章没有在这儿列出来）。

一、BP反向传播推理：

（1）BP神经网络详细推导，https://www.cnblogs.com/fengchuicaodong/p/12830512.html

     上面这个推导是比较原始的推理，很容易明白，后面也进行了总结。

（2）神经网络BP反向传播算法原理和详细推导流程，https://blog.csdn.net/qq_44995164/article/details/90235053

     上面这个推导比较详细，有抽象也有具体，但是推导多了容易迷失方向。

（3）深度神经网络（DNN）反向传播算法(BP)，https://www.cnblogs.com/pinard/p/6422831.html

     上面这篇博客推导比较抽象，但是思路清晰，一旦理解了很容易全局掌握。

二、CNN反向传播：

有了BP的反向传播算法基础，CNN就是小菜

/////////////////////////////////////////////////////////////////////////////////////////////////////////////////

（1）CNN反向传播推导，https://blog.csdn.net/donghai_yu/article/details/79668705

    上面这篇博客是手写的推导，很容易看懂

/////////////////////////////////////////////////////////////////////////////////////////////////////////////////

（2）卷积神经网络(CNN)反向传播算法，https://www.cnblogs.com/pinard/p/6494810.html

    上面这篇博客很详细，也有伪代码算法描述

/////////////////////////////////////////////////////////////////////////////////////////////////////////////////

（3）深入理解卷积神经网络(CNN)——从原理到实现，https://blog.csdn.net/Rainbow0210/article/details/78562926

    上面这篇博客有原理，也有非框架的核心源码实现

/////////////////////////////////////////////////////////////////////////////////////////////////////////////////

三、总结：

如果把上面的都看懂并且体会到位，那么深度学习之卷积神经网络也就被你攻克了。上述博客中有的个别公式推导不严谨，有的示意图或公式有小小笔误，不过当你懂了以后这些都不是问题了。