VggNet学习笔记

VggNet(2014)

论文

Abstract

本文研究了卷积神经网络的深度对其准确率的影响,通过使用3×3的卷积核(very small),我们发现了当深度达到16-19层时准确率有重大提高。这一成功赢得了2014 ImageNet冠军。

Network Configurations

输入为224*224 RGB图,预处理为均值化,大量使用3×3卷积核(有时也用1×1卷积核作为线性变换),stride=1,padding=1,max-pooling使用2×2window,stride=2. 最后使用3层全连接层。所有hidden layer使用ReLU函数,除了一种网络外其他均未使用Local Response Normalisation因为它并不能改善性能。

1×1卷积层的作用是在不影响接收野的情况下增加决策函数的非线性(利用ReLU)

与其他网络最大的不同是在整个网络中都使用了小的卷积核

使用多个小卷积核代替大卷积核有助于减少参数,唯一的不足是反向传播时中间层可能会占用较多内存
VggNet学习笔记_第1张图片

你可能感兴趣的:(VggNet学习笔记)