RBM

RBM

限制波尔兹曼机（RBM）

5. Restricted Boltzmann Machines 是什么？

Geoff Hinton 发表了 RBM 的论文，这个贡献也使他被称为深度学习之父。

RBM 是 Feature Extractor Neural Nets 家族即 Autoencoders 的一员，可以通过重建 inputs 来自动学习数据中的 pattern。

RBM 有两层，有个限制条件是，同一层的node不可以有联系。它将 inputs 编码成数字集，在回溯的时候，又把数字解码成 inputs 的原来状态。而且RBM不需要训练的数据是labeled。

6.为什么RBM可以改善梯度消失的问题呢？

是怎么避免 vanishing gradient 的问题的呢，就是不用 Back propagation，而是用 Deep Belief Nets 替代。