Inception模块

Inception网络或Inception层的作用是代替人工来确定卷积层中的卷积核类型,或者是否需要创建卷积层和池化层,可以代替你来做决定,虽然网络架构比较复杂,但网络表现却非常好。下图是Inception网络的核心:网络自行决定这些参数和卷积核及池化,你可以给网络添加这些参数的所有可能的值,然后把这些输出连接起来,让网络自己学习它需要什么样的参数,采用哪些卷积核组合。
Inception模块_第1张图片
!下面两个操作的计算成本相差十倍:我们利用1×1卷积核把左边这个大的输入层压缩为这个较小的中间层,其只有16个通道,
Inception模块_第2张图片
Inception模块_第3张图片
#注1×1×32的卷积核学习能力小,根本学不到相邻像素的空间信息,无法提取出轮廓特征,因此不能一步到位,这里1×1的目的是为了压缩,减少5×5的运算量,如果直接压缩到32个通道,卷积的计算量会比这样的计算量大很多所以提取特征和缩小通道和两个不同的卷积核

#事实证明,只要合理的构建这个瓶颈层(压缩层),既可以显著的缩小输入层的规模,又不会降低网络性能,从而大量节省了计算。

! Inception模块会将之前层的激活或者输出作为它的输入,下图就是一个完整的Inception模块:
Inception模块_第4张图片
而Inception网络要做的就是将Inception模块都组合到一起,讲很多简单的模块在不同位置进行重复,组成网络,如下图:
Inception模块_第5张图片
卷积神经网络的最后几层通常称为全连接层,在它之后是一个softmax层用来做预测,Inception网络的一个细节就是即便是中间层,也参与了特征的计算,它们也能预测图片的分类,并且可以防止网络过拟合,

你可能感兴趣的:(深度学习+torch专栏,人工智能,深度学习,卷积神经网络)