Python 学习 第五册 深度学习 第1章 什么是深度学习

----用教授的方式学习。

目录

1.1人工智能、机器学习与深度学习

1.1.1　人工智能

1.1.2　机器学习

1.1.3　从数据中学习表示

1.1.4　深度学习之“深度”

1.1.5　用三张图理解深度学习的工作原理

1.2　深度学习之前：机器学习简史

1.2.1　概率建模

1.2.2　核方法

1.2.3　决策树、随机森林与梯度提升机

1.2.4　深度学习有何不同

---

什么是深度学习？

1.1人工智能、机器学习与深度学习

三者关系：

1.1.1　人工智能

努力将通常由人类完成的智力任务自动化。因此，人工智能是一个综合性的领域，不仅包括机器学习与深度学习，还包括更多不涉及学习的方法。在相当长的时间内，许多专家相信，只要程序员精心编写足够多的明确规则来处理知识，就可以实现与人类水平相当的人工智能。这一方法被称为符号主义人工智能（symbolic AI）。20 世纪 80 年代的专家系统（expert system）热潮中，这一方法的热度达到了顶峰。

虽然符号主义人工智能适合用来解决定义明确的逻辑问题，比如下国际象棋，但它难以给出明确的规则来解决更加复杂、模糊的问题，比如图像分类、语音识别和语言翻译。于是出现了一种新的方法来替代符号主义人工智能，这就是机器学习（machine learning）。

1.1.2　机器学习

图灵在论文中介绍了图灵测试以及日后人工智能所包含的重要概念。图灵还思考了这样一个问题：通用计算机是否能够学习与创新？他得出的结论是“能”。

机器学习的概念就来自于图灵的这个问题：对于计算机而言，除了“我们命令它做的任何事情”之外，它能否自我学习执行特定任务的方法？计算机能否让我们大吃一惊？如果没有程序员精心编写的数据处理规则，计算机能否通过观察数据自动学会这些规则？

在经典的程序设计（即符号主义人工智能的范式）中，人们输入的是规则（即程序）和需要根据这些规则进行处理的数据，系统输出的是答案。利用机器学习，人们输入的是数据和从这些数据中预期得到的答案，系统输出的是规则。这些规则随后可应用于新的数据，并使计算机自主生成答案。

机器学习系统是训练出来的，而不是明确地用程序编写出来的。

1.1.3　从数据中学习表示

为了给出深度学习的定义并搞清楚深度学习与其他机器学习方法的区别，我们首先需要知道机器学习算法在做什么。

需要以下三个要素来进行机器学习。

1. 输入数据点。例如，你的任务是语音识别，那么这些数据点可能是记录人们说话的声文件。如果你的任务是为图像添加标签，那么这些数据点可能是图像。

2. 预期输出的示例。对于语音识别任务来说，这些示例可能是人们根据声音文件整理生成的文本。对于图像标记