深度学习（1）：概论 深度学习简介

前言

最近正在学习吴恩达的深度学习deeplearning.ai课程，这个深度学习系列将会记录我的学习心得以及作业答案。希望我的分享能够给大家带来帮助。由于我也处在学习的过程中，所以对于一些概念和方法尚且不能进行详细的展开，日后充分理解后可能会加以补充。

机器学习与深度学习

机器学习主要是利用各种模型实现一个复杂的多元函数。这个函数的自变量是我们已知的各种信息，函数的值是我们要预测的信息。
例如：我们利用房子的面积、卧室个数、所在位置来预测房子的价格（回归）；利用一张图片的各个像素点来预测这张图片是不是猫（分类）等等。

我们已知的数据可以是结构化的数据：例如一个excel表格记录各种信息。也可以是一些非结构化的数据：一张图片，一段语音。

我们要做的，是充分利用我们已知的数据，训练我们的模型来获取这个多元函数。通过选择适当的模型以及训练手段，使我们的模型在我们已知的数据集中尽量正确，更希望它在未知的数据中也能尽量正确。训练的过程往往需要大量的数据和训练时间才能获得较好的结果。

而深度学习是机器学习中的一种。深度学习的典型代表就是深层的神经网络。相较于其他传统机器学习的模型，深度学习的特点是参数众多，需要较大的训练集和较长的训练时间。

在较小的训练集中，机器学习的各种模型往往不分伯仲，或许更多依赖模型的组织以及经验。然而当数据量变大时，深层的神经网络的优势就变得十分明显，取得非常好的效果。

随着储存介质、移动设备、物联网等等领域的发展，我们能够获取的信息数成几何级增长。而CPU和GPU的发展让计算机的计算速度飞速提升。数据规模和计算速度的发展使得深度学习有了更大的发挥空间，在近几年得到人们的重视。

神经网络简介

神经元：
神经元是神经网络的基本单元，主要结构如下图所示：

输入的参数可以是多个，神经元对给定的参数进行简单的运算输出y值

大型的神经网络是由这些简单的神经元组合而成：

中间各层隐藏的神经元（Hidden unit）并不具有实际的意义，它们的参数训练完全由神经网络自己决定。

（图片节选自吴恩达深度学习课程讲义）