CNN+RNN

CNN,RNN(recurrent, 下同)结合到一起可以建立一个更好的model

1. CRNN（先CNN，后RNN）

References: An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition

一般用于基于的图像序列预测(如手写稿图片，每一个单词都在图像里面，对这些单词序列做出预测)。所以先用CNN（convolutional and max-pooling layers, fully-connected layers are removed）提取图像特征，再用RNN对CNN输出的特征进行序列预测。RNN本来就擅长处理序列预测，但是RNN之前需要有a preprocessing step，这里的CNN相对于预处理过程。当然也可以处理篮子序列，CNN处理篮子内部的小序列，RNN处理篮子间的大序列。

2.RCNN（先RNN，后CNN）

References: Recurrent Convolutional Neural Networks for Text Classification

一般用于文本分析。CNN本来就可以用来文本分析，但是CNN某一层中的卷积核固定，每一个词的context比较局限，就先用RNN将一个词周围的所有文本都作为context，期望对这个词有一个更加精确的表达。基本上用CNN的地方可以用如此RCNN优化。