深度学习与TensorFlow:关于DBN的一些认识

深度学习与TensorFlow:关于DBN的一些认识_第1张图片

最近在学习深度置信网络(DBN)的时候,看过几篇博客,但是在DBN的结构上,一大堆博客讲DBN是将受限玻尔兹曼机(RBM)像砖块一样叠加起来的一个网络,这本身是有一些错误的,修正一波。

1:受限玻尔兹曼机RBM

深度学习与TensorFlow:关于DBN的一些认识_第2张图片

如图所示

受限玻尔兹曼机本身是一个基于二分图的无向图的模型,图中的一部分是可见层,一部分是隐藏层,并且同层之间的单元和单元之间没有任何连接。

2:深度置信网络DBN

深度学习与TensorFlow:关于DBN的一些认识_第3张图片

如图所示

DBN有一些与RBM共同的特性,比如同层之间的单元和单元之间没有任何连接,但是DBN是具有多个隐藏层的,并且是涉及有向和无向连接的混合图模型。当然如果我们了解了父节点的依赖关系,DBN也是可以用完全无向图表示的。

3:深度玻尔兹曼机

深度学习与TensorFlow:关于DBN的一些认识_第4张图片

如图所示

DBM同层之间的单元和单元之间也没有任何连接,DBM是只有几层潜变量的无向图模型,通过对比我们也可以看到,DBM与RBM的联系远不如与DBN来的紧密。

以上就是对其一些见解,希望大家参照花书,深入了解。

你可能感兴趣的:(深度学习与TensorFlow:关于DBN的一些认识)