【学习笔记】第四周 深层神经网络

梯度下降公式,包括向量化

【学习笔记】第四周 深层神经网络_第1张图片
屏幕快照 2018-01-10 下午7.34.41.png

深层神经网络表示,注意一些参数的数值

【学习笔记】第四周 深层神经网络_第2张图片
屏幕快照 2018-01-11 下午9.12.19.png

深层神经网络的前向传播,注意右边矢量化的内容

【学习笔记】第四周 深层神经网络_第3张图片
屏幕快照 2018-01-11 下午9.14.27.png

某一层的前向传播和反向传播

【学习笔记】第四周 深层神经网络_第4张图片
屏幕快照 2018-01-11 下午9.16.38.png

整个网络的前向传播和反向传播

【学习笔记】第四周 深层神经网络_第5张图片
屏幕快照 2018-01-11 下午9.17.37.png
【学习笔记】第四周 深层神经网络_第6张图片
屏幕快照 2018-01-11 下午9.21.44.png

核对矩阵的维数

注意下图右上角部分的内容,展示了单个样本数据时W、b、dW、db的维度

屏幕快照 2018-01-11 下午9.02.42.png

注意下图右下角部分的内容,展示了矢量化之后Z,A,X,dZ,dA的维度,矢量化之后的W和b维度与上图中的保持一致

【学习笔记】第四周 深层神经网络_第7张图片
屏幕快照 2018-01-11 下午9.04.21.png

正向传播、反向传播的公式,包括向量化

【学习笔记】第四周 深层神经网络_第8张图片
屏幕快照 2018-01-11 下午8.46.17.png

超参数

学习速率、迭代次数、隐藏层数、隐藏单元数、激活函数等

【学习笔记】第四周 深层神经网络_第9张图片
屏幕快照 2018-01-11 下午9.23.01.png

你可能感兴趣的:(【学习笔记】第四周 深层神经网络)