深度学习：基于python：第8章 深度学习

第8章 深度学习

深度学习是加深了层的深度神经网络。基于之前介绍的网络，只需通过 叠加层，就可以创建深度网络。

8.1 加深网络

8.1.1　向更深的网络出发

如图8-1所示，插入了池化层，以逐渐减小中间数据的空间大小；并且， 后面的全连接层中使用了Dropout层。

8.1.2　进一步提高识别精度

8.1.3　加深层的动机

加深层的好处。其中一个好处就是可以减少网络的参数 数量。说得详细一点，就是与没有加深层的网络相比，加深了层的网络可以 用更少的参数达到同等水平（或者更强）的表现力。

加深层的另一个好处就是使学习更加高效。与没有加深层的网络相比， 通过加深层，可以减少学习数据，从而高效地进行学习。

8.2 深度学习的小历史

8.2.1　ImageNet

ImageNet是拥有超过100万张图像的数据集。

8.2.2　VGG

VGG是由卷积层和池化层构成的基础的CNN。

它的特点在于将有权重的层（卷积层或者全连接层）叠加至16层（或者19层）， 具备了深度（根据层的深度，有时也称为“VGG16”或“VGG19”）

VGG中需要注意的地方是，基于3×3的小型滤波器的卷积层的运算是 连续进行的。如图8-9所示，重复进行“卷积层重叠2次到4次，再通过池化 层将大小减半”的处理，最后经由全连接层输出结果。

8.2.3　GoogLeNet

8.2.4　ResNet

ResNet是微软团队开发的网络。它的特征在于具有比以前的网络更 深的结构。

8.3 深度学习的高速化

8.3.1　需要努力解决的问题

8.3.2　基于GPU的高速化

8.3.3　分布式学习

8.3.4　运算精度的位数缩减

8.4 深度学习的应用案例

8.4.1　物体检测

8.4.2　图像分割

8.4.3　图像标题的生成

8.5 深度学习的未来

8.5.1　图像风格变换

8.5.2　图像的生成

8.5.3　自动驾驶

8.5.4　Deep Q-Network（强化学习）

8.6 小结

本章我们实现了一个（稍微）深层的CNN，并在手写数字识别上获得了 超过99%的高识别精度。此外，还讲解了加深网络的动机，指出了深度学习 在朝更深的方向前进。之后，又介绍了深度学习的趋势和应用案例，以及对 高速化的研究和代表深度学习未来的研究案例。

本章所学的内容

• 对于大多数的问题，都可以期待通过加深网络来提高性能。
• 在最近的图像识别大赛ILSVRC中，基于深度学习的方法独占鳌头， 使用的网络也在深化。 •
• VGG、GoogLeNet、ResNet等是几个著名的网络。 •
• 基于GPU、分布式学习、位数精度的缩减，可以实现深度学习的高速化。
• 深度学习（神经网络）不仅可以用于物体识别，还可以用于物体检测、 图像分割。 •
• 深度学习的应用包括图像标题的生成、图像的生成、强化学习等。最近， 深度学习在自动驾驶上的应用也备受期待