吴恩达深度学习课程

 

神经网络

深度学习是指训练神经网络，size--○--prise，圆圈为一个神经单元。

它做的就是函数的主要功能。常见的“修正线性单元”即为ReLU。

 

把独立的单元叠加起来，就有了一张较大的神经网络。

1.2监督学习

对于图像中常用卷积神经网络（CNN）

对于序列数据常用循环神经网络（RNN）

 

语言也是序列数据但是是单个出现，用（RNNs）

雷达等要用更复杂的，混合神经网络结构

 

结构化数据

是数据的数据库

 

非结构化数据

类似音频信号和图像

 

训练集的规模/训练样本的数量（m）；

深度学习的扩展是数据和计算能力规模的进展，大多数算法的创新是为了让神经网络运行的更快。计算速度的提升，可以帮助提高迭代速度。

 

神经网络的编程基础

logistic回归

是一个用于二分分类的算法。是一个学习算法，用在监督学习问题中。

X.shape是一条Python命令，用来输出矩阵的维度（nx，m），表示X是一个nx×m的矩阵。

好的惯例符号能将不同训练样本的数据联系起来。

 

符号说明：

 

维度相关：

 m ：数据集中训练集的数量。

 L ：神经网络中的层数，上图 L =3.

 l ：第层的神经网络。

 nz ：输入数据的维度，上图 Tr =3。

 Ty ：输出数据的维度，通常就是分类问题中的类标签的数量。

 n ,：第 l 层的隐藏单元的数量，如上图第二层中 n ,=3.

数据相关：

 X € RPXm ：这是输入数据的矩阵，它的维度是( Tr , m )。

 e E R ＇：第 i 个数据，一般是一个列向量，它的维度是(1, nz ). YE RyXm ：标签矩阵，它的维度是( Ty , m ).

 y € R ：第 i 个数据对应的标签，一般是一个整数值。

w4：第层的权重矩阵，其维度是( n ,, n ,7リ).

64：第 l 层的偏差向量，是个列向量，其维度是(1, n ,).

 y € R "：预测的输出向量，列向量，它维度是(1, ny ).