Convolutional Neural Network Architectures for Predicting DNA-Protein Binding论文笔记

总结

在预测DNA序列与转录因子结合数据集上，论文做了CNN结构的系统化探索。论文通过改变CNN宽度、深度、池化设计。论文的重要发现：在网络上添加卷积核对以motif为基序的任务非常重要。
实验分为两个任务：motif learning和motif occupancy，利用更多的卷积核总是有用的。然而，局部池化和另外的卷积层只会在特征维度很高时在motif occupancy任务中有帮助。
使用可配置的网络方法对于基于序列的任务将是重要的。

1. DeepBind和DeepSEA是两种方法，成功地建模蛋白质结合的序列特殊性。
2. 代替用三种颜色通道（R，G，B）处理2-D图像，我们把基因组序列看作具有四个通道（A，C，G，T）的固定长度1-D序列窗口。DNA序列蛋白结合特异性建模的基因组任务类似于二分类图像的计算机视觉任务。
3. 基因组学中卷积神经网络的最大优势之一是它能够检测序列窗口中任何一个基序，这非常适合基序识别和绑定分类的任务。

背景

做了690个不同的CHIP-seq实验识别DNA序列的转录因子。设计了9个结构变体，不同的网络宽度、深度、池化结构。

• The motif discovery task classifies [sequences that are bound by a transcription factor] from [negative sequences that are dinucleotide shuffles of the positively bound sequences].
• The motif occupancy task discriminates genomic motif instances that are bound by a transcription factor (positive set) from motif instances that are not bound by the same transcription factor (negative set) in the same cell type, where GC-content and motif strength are matched between the positive and negative set.

论文发现，卷积核数量越多，性能越好；但是局部池化和更多的卷积层不能让网络性能更加好。

第一层网络：卷积层——motif扫描器。
DeepBind使用16个卷积层，每个卷积层扫描window size=24，步长=1的输入序列。
第二层：全局最大池化层，每个卷积层都跟着一个池化层。
这些最大池化层仅输出它们相对应的卷积层的最大值，
第三层：大小为32的全连接层
应用了dropout层，防止过拟合。
最后的输出层：包含2个神经元对应两个分类结果
这两个神经元是全连接到前一层的。

We note that with more than one layer, the pooling at intermediate layers must be local for higher layer of convolution to be meaningful.

实验结果

• ENCODE的690个转录因子TF。
• 为motif discovery and motif occupancy任务构建了单独的正例和负例数据集。
• motif discovery是区分基因序列和非基因序列，而motif occupancy任务是区分两组基因序列的。