DBN讲解

  1. 参考视频:https://www.bilibili.com/video/BV1WJ41117PV?
    p=5&vd_source=26e80390f500a7ceea611e29c7bcea38
    2.玻尔兹曼机、受限玻尔兹曼机、吉布斯抽样、玻尔兹曼分布解释:

https://www.bilibili.com/video/BV1gY4y1k79E/?p=8&spm_id_from=pageDriver&vd_source=26e80390f500a7ceea611e29c7bcea38

== DBN相较于bp的好处==

  1. DBN能很好的解决因层数过多产生梯度消失和梯度爆炸的问题
  2. 因为多层RBM已经预训练好bp网络的初始权重了。不管网络多少层,最后一层只接一层bp所以,反向传播只传一层。那么就不会发生梯度爆炸和梯度消失问题了
  3. 传统bp要从最后一层传到第一层(反向的时候),而DBN只需要传到最后一层RBM的隐藏层即可

你可能感兴趣的:(深度学习)