第13章 RNN扩展阅读

层次化和膨胀卷积池化结构在计算机视觉领域非常普遍，其中提出的各种包含许多不同步长的卷积池化的结合的深度结构得到了非常好的图片分类和目标识别结果[He et al. , 2016, Krizhevsky et al. , 2012, Simonyan and Zisserman, 2015]。这些深度结构在NLP中的使用还处于初级阶段。Zhang等人[2015]给出了用于文本分类的字符级层次化卷积的初步试验，Conneau等人[2016]使用非常深度的卷积网络给出了更进一步的结果。Strubell等人[2017]提供了用于序列标注任务的层次化和膨胀结构的很好综述。Kalchbrenner等人[2016]使用膨胀卷积作为编码器在编码器——解码器框架下进行机器翻译。Xiao和Cho[2016]在字符序列上使用带有局部池化的层次化卷积来完成文档分类任务，然后将结果向量送入循环神经网络中。