2019-11-18周一上午，学习《图解深度学习》第一章总结

绪论

这部分介绍，为什么深度学习收到如此广泛的重视？深度学习又有哪些方法？文章将通过解答这些疑问。

深度学习与机器学习

深度学习是一种机器学习方法，会根据输入数据进行分类或递归。机器学习是人工智能中一个新的研究领域，可以通过经验（学习）自动获得动作参数。现在的机器学习的广义概念是指从一直数据中获得规律，并利用规律对位置数据进行预测的方法。
机器学习是一种统计学习方法，需要使用大量数据进行学习，主要分为有监督学习和无监督学习两种。有监督学习需要基于输入数据极其期望输出，通过训练从数据中提取通用信息或者特征信息，以此得到预测模型。无监督学习无需期望输出，算法会自动从数据中提取特征值。深度学习是一个多层网络结果，和人脑的认知结果相似。

深度学习的发展历程

深度学习并非一项横空出世的技术，而实在出现了一系列的案例研究报告后，才收到万众瞩目。
2011年语音识别领域的研究报告。在以往的语音识别中，使用高斯混合模型和隐马尔可夫模型的方法被普遍应用，人们争相改良这些方法，以期语音识别的性能能够在接近性能极限的有限范围内得到些许提升。而深度学习方法直接打破了原有的性能极限，使语音识别的性能得到了大幅提高，并于2011年的基准测试中达到了顶级。
深度学习的洪流也席卷了图像识别领域。以往的图像识别普遍使用尺度不变特征变化，视觉词袋模型特征表达，以及费舍尔向量等尺度压缩方法。这里，深度学习放大的引入再次打破了原有方法的性能壁垒，使性能得到了大幅提升。由此深度学习在图像识别领域的有效性得到了提升，自身也被广泛应用。

同时期，Google开发的自动学习方法通过深度学习实现了猫脸识别，这使得深度学习变得广为人知。Google使用的是无监督学习方法。

深度学习之所以能吸引众多领域的关注，也得益于人民可以非常轻松地获取大量训练数据，多种吸能提升方法的出现，以及GPU和内存等硬件的进步，这次因素完美地结合在一起。为了提升细嫩那个，人民提出了Dropout等防止过拟合的方法，为了使训练过程顺利收敛，人们又提出了激活函数和预训练方法等。这些方法对深度学习的性能提升起到了支撑作用。
硬件的进步主要体现在GPU的问世，GPU是图像处理器的简称，专门用在游戏或图像软件等图像处理单元。GPU中继承了大量计算单元，能够提供并行运算的能力。处理时间长是深度学习的一个重要的问题，CUDA支持并行处理，不仅可以帮助GPU大幅缩短处理时间，还能提供面向深度学习的快速计算库。

为什么是深度学习

深度学习在各个领域的基准测试中均打破了原有的性能极限，取得了令人瞩目的成绩，此外，深度学习还能模仿人脑机制获取知识。以往的机器学习都是人类手动设计特征值，而深度学习则是通过学习大量数据自动确定需要提取的特征信息，甚至还能自动后去一些人类无法想象的由颜色和边缘等组合起来的特征信息。

什么是深度学习

深度学习一般是指具有多层结构的网络，不过对于网络的层数没有严格定义，网络生成方法也是多种多样的。
深度学习的起源包括感知器和玻尔兹曼机。起源于感知器的深度学习是一种有监督学习，根据期望输出训练网络。而起源于受限玻尔兹曼机的深度学习是一种无监督学习，指根据特定的训练数据训练网络。