深度置信网络

深度置信网络是神经网络的- -种。 既可以用于非监督学习,类似于一个自编码机也可以用于监督学习,作为分类器来使用。从非监督学习来讲,其目的是尽可能地保留原始特征的特点,同时降低特征的维度。从监督学习来讲,其目的在于使得分类错误率尽可能地小。而不论是监督学习还是非监督学习, 深度置信网络的本质都是特征的过程,即如何得到更好的特征表达。本章节将主要介绍玻尔兹曼机受限玻尔兹曼机以及深度置信网络。

玻尔兹曼机
定义：

一种由二值随机神经元构成的两层对称连接神经网络。其权值通过优化玻尔兹曼能量函数获得。

特点：

特点1 :每个随机变量都是二值的( {0,1})
特点2 :所有节点是全连接的
特点3 :两个节点之间的相互影响是对称的

受限玻尔兹曼机

特点：层的神经元之间没有连接关系。

 传播过程：

深度置信网络：