2019-06-20 深度学习 Ian Goodfellow（伊恩·古德费洛）

深度学习，Ian Goodfellow（伊恩·古德费洛）

深度学习这个术语自2006年被证实提出后，在进10年得到了巨大的发展，它使人工智能（AI）产生了革命性的突破。让计算器从经验中学习，并根据层次化的概念体系来理解世界，而每个概念则通过与某些相对简单的概念之间的关系来定义。让计算机从经验中获取知识，可以避免由人类来给计算机形式化的指定它需要的所有的知识。层次化的概念让计算器构建较简单的概念来学习复杂概念。如果绘制出表示这些概念如何建立在彼此之上的图，我们将得到一张“深”（层次很多）的图，给予这个原因，我们称这种学习为AI深度学习。

全书共分为三个部分：

[if !supportLists]一. [endif]介绍基本的数学工具和机器学习的概念，他们是深度学习的预备知识。

[if !supportLists]二. [endif]讲解现今已经成熟的深度学习方法和技术。

[if !supportLists]三. [endif]关于前瞻性的方向和想法的讨论。

书中涉及的部分术语：

Deep learning 深度学习

Artificial intelligence 人工智能

Knowledge base 知识库

Machine learning 机器学习

ANN（artificial neural network） 人工神经网络

Random variable 随机变量

Degree of belief 信任度

Probability distribution 概率分布

Exponential distribution 指数分布

Empirical frequency 经验频率

Algorithm 算法

Data set 数据集

Test set 测试集

Supervised learning 监督学习

Reinforcement learning 强化学习

Weight 权重

Parameter 参数

Hypothesis space 假设空间

Capacity 容量

Statistical learning 统计学习

No free lunch theory 没有免费午餐定理

Regularization 正则化

Validation set 验证集

Architecture 架构

Computational graph 计算图

Minibatch小批量

Batch 批量

Deterministic 确定性

Precision精度

Natural language processing NLP 自然语言处理