神经网络densecnn_卷积神经网络（CNN）的结构设计都有哪些思想？

我的新书，全面系统讲解深度学习模型设计！已经有详细讲解！言有三新书来袭！业界首次深入全面讲解深度学习模型设计​mp.weixin.qq.com

简短的总结则如下，不可能包含所有的模型，但是我们可以从中洞见最核心的思想。如果有必要，以后我还会进行补充的，也欢迎大家补充。

1 从LeNet5到VGG(基于深度的设计)

LeNet5不是CNN的起点，但却是它的hello world，让大家看到了卷积神经网络商用的前景。

AlexNet是CNN向大规模商用打响的第一枪，夺得ImageNet 2012年分类冠军，宣告神经网络的王者归来。VGG以其简单的结构，在提出的若干年内在各大计算机视觉领域都成为了最广泛使用的benchmark。

它们都有着简单而又优雅的结构，同出一门。诠释了增加深度是如何提高了深度学习模型的性能。详细解读如下：

2 1*1卷积(基于升维降维的设计)

1*1卷积本身只是N*N卷积的卷积核半径大小退化为1时的特例，但是由于它以较小的计算代价增强了网络的非线性表达能力，给网络结构在横向和纵向拓展提供了非常好的工具，常用于升维和降维操作，尤其是在深层网络和对计算效率有较高要求的网络中广泛使用。

详细解读如下：

03 GoogLeNet(基于宽度和多尺度的设计)

GoogLeNet夺得ImageNet2014年分类冠军，也被称为Inception V1。Inception V1有22层深，参数量为5M。同一时期的VGGNet性能和Inception V1差不多，但是参数量却远大于Inception V1。Inception的优良特性得益于Inception Module，结构如下图：

由1*1卷积，3*3卷积，5*5卷积，3*3最大池化四个并行通道运算结果进行融合，提取图像不同尺度的信息。如果说VGG是以深度取胜，那么GoogLeNet可以说是以宽度取胜，当然1*1卷积起到了很大的作用，这一点在SqueezeNet中也很关键。详细解读如下：

4 MobileNets(基于分组卷积的设计)

脱胎于Xception的网络结构MobileNets使用Depthwise Separable Convolution(深度可分离卷积)构建了轻量级的28层神经网络，成为了移动端上的高性能优秀基准模型。

一个depthwise convolution，专注于该通道内的空间信息，一个pointwise convolution，专注于跨通道的信息融合，两者共同努力，然后强大，在此基础上的一系列模型如shufflenet等都是后话。详细解读如下：

5 残差网络

当深层网络陷身于梯度消失等问题而导致不能很有效地训练更深的网络时，脱胎于highway network的残差网络应运而生，附带着MSRA和何凯明的学术光环，诠释了因为简单，所以有效，但你未必能想到和做到的朴素的道理。

详细解读如下：

6 非正常卷积(基于不规则卷积和感受野调整的设计)

谁说卷积一定要规规矩矩四四方方呢？MSRA总是一个出新点子的地方，在spatial transform network和active convolution的铺垫下，可变形卷积deformable convolution network如期而至。

文章依旧写的很简单，这是一个致力于提升CNN对具有不同几何形变物体识别能力的模型，关键在于可变的感受野。

7 密集连接网络(残差网络的升级，极致的不同层间的信息融合)

说起来，DenseNet只不过是残差网络的升级版，将网络中的每一层都直接与其前面层相连，把残差做到了极致，提高了特征的利用率；因为可以把网络的每一层设计得很窄，提高计算性能。

不过还是那句话，就算你能想到，也未必能做到，我们还是单独详细解读如下：

8 非局部神经网络(充分提高层内感受野的设计)

卷积神经网络因为局部连接和权重共享而成功，但是它的感受野是有限的。为了这样，我们不得不使用更深的网络，由此带来了三个问题。(1) 计算效率不高。(2) 感知效率不高。(3) 增加优化难度。这一次又是学神凯明带队出发，从传统降噪算法Non-Local中完成借鉴。

虽非真主流，了解一下也无妨。

9 多输入网络(一类有多种应用的网络)

见惯了输入一个图像或者视频序列，输出分类，分割，目标检测等结果的网络，是否会想起输入两张，或者多张图片来完成一些任务呢，这就是多输入网络结构。

从检索，比对，到排序，跟踪，它可以做的事情有很多，你应该了解一下。

10 3D卷积(将卷积升维到3D空间设计)

2D卷积玩腻了，该跳到更加高维的卷积了，常见的也就是3D卷积了。

虽然3D带来了暴涨的计算量，但是想想可以用于视频分类和分割，3D点云，想想也是有些小激动呢。

11 RNN和LSTM(时序网络结构模型)

不是所有的输入都是一张图片，有很多的信息是非固定长度或者大小的，比如视频，语音，此时就轮到RNN，LSTM出场了。

话不多说，好好学：

12 GAN(近两年最火的下一代无监督深度学习网络)

近几年来无监督学习领域甚至是深度学习领域里最大的进展非生成对抗网络GAN莫属，被誉为下一代深度学习，不管是研究热度还是论文数量，已经逼近甚至超越传统判别式的CNN架构。在研究者们的热情下，GAN已经从刚开始的一个生成器一个判别器发展到了多个生成器多个判别器等各种各样的结构。

快上车，因为真的快来不及了。

更多的，全部放在星球里了，下面是当前的目录结构，已经超过3万字的解读，今年预计会超过10万字，500+模型吧。

┉┉ ∞ ∞ ┉┉┉┉ ∞ ∞ ┉┉┉┉┉ ∞ ∞ ┉┉┉┉ ∞ ∞ ┉┉┉┉┉ ∞ ∞ ┉┉┉┉ ∞ ∞ ┉┉┉

另外，我在阿里天池上有3场超过3个小时的直播，分别就是讲述千奇百怪的网络结构，如何设计更加强大的网络结构，如何设计更加精简的网络结构，欢迎去收看回放。【直播】深度卷积神经网络模型设计技术​mp.weixin.qq.com【直播】如何设计性能更强大的深度卷积神经网络​mp.weixin.qq.com【直播】如何获得更加高效的深度卷积神经网络​mp.weixin.qq.com另外我们还有一个知识星球社区，也是一年更新几百期原创内容，一直在持续更新网络设计和数据相关的内容，目录如下：

其中模型结构相关的板块为“网络结构1000变“。

我们在公众号和知乎推送了很多的模型结构和优化的知识，但是公众号能发的内容是有限的，而模型结构优化的知识太多了，因此我们通常是将入门的，大致的学习路线放在了公众号，而更多的进阶内容放在了星球，形式差不多就是如下，会解读论文细节，提供文章下载，介绍开源项目，有一些会剖析代码，进行实验，本板块不是简短的信息摘要。

以最近三个月的内容为例，我们主要是关注模型优化(模型剪枝，模型量化，模型蒸馏)，生成对抗网络(GAN)，三维重建等方向。

目前网络结构1000变里面的内容太多了，有三在星球里有超过600条状态，其中一半以上都是网络结构相关的，因此大家可以感受一下，细节处大家可以移步星球，链接如下：【杂谈】有三AI知识星球一周年了！为什么公众号+星球才是完整的？​mp.weixin.qq.com