十大神经网络架构

十大神经网络架构

最后在写关于神经网络的代码的时候，对什么情况使用什么神经网络有点困惑，在使用seq2seq的时候对batch_size的大小，hidden_layer的大小迷惑，于是打算整理一下现在流行的架构。

卷积神经网络（CNN）

• 1998年，计算机科学家扬·勒丘恩和他的小伙伴们开发了一款十分好用的手写数字识别器，名为LeNet。这款识别器在前馈神经网络中使用了反向传播算法。该前馈神经网络拥有多个隐藏层，每个层拥有多个复制单元映射，且汇集了附近复制单元的输出数据；
• 
• CNN主要用于图像处理，还可以用于NLP等，它的好处呢，针对图像而言，可以将图像通过卷积核的大小得到一个点，如果图像中使用普通的神经网络，那么它的训练代价非常大。
• 由这个引出来的就我所知，在nlp中有textcnn

循环神经网络(RNN)

• 常用语时序问题和NLP的翻译问题，