吴恩达机器学习学习笔记 --- 神经网络

(1)逻辑单元吴恩达机器学习学习笔记 --- 神经网络_第1张图片

(2)神经网络模型展示

【主要加入偏置量】

吴恩达机器学习学习笔记 --- 神经网络_第2张图片

【注意下标】

吴恩达机器学习学习笔记 --- 神经网络_第3张图片

(3)前向传播

【从前往后计算 a 值】

吴恩达机器学习学习笔记 --- 神经网络_第4张图片

(4)举例

吴恩达机器学习学习笔记 --- 神经网络_第5张图片

【AND】

吴恩达机器学习学习笔记 --- 神经网络_第6张图片

 【OR】

吴恩达机器学习学习笔记 --- 神经网络_第7张图片

 【NOT】

吴恩达机器学习学习笔记 --- 神经网络_第8张图片

【XNOR】

吴恩达机器学习学习笔记 --- 神经网络_第9张图片

【更深一层 计算更加复杂的函数】

吴恩达机器学习学习笔记 --- 神经网络_第10张图片

(5)多元分类

【一对多】

吴恩达机器学习学习笔记 --- 神经网络_第11张图片

吴恩达机器学习学习笔记 --- 神经网络_第12张图片

 (6)代价函数

吴恩达机器学习学习笔记 --- 神经网络_第13张图片

 吴恩达机器学习学习笔记 --- 神经网络_第14张图片

(7)反向传播

【怎么求偏导项 、 确定参数】 

【计算误差】

吴恩达机器学习学习笔记 --- 神经网络_第15张图片

【计算偏导项】

吴恩达机器学习学习笔记 --- 神经网络_第16张图片

 【理解反向传播】

吴恩达机器学习学习笔记 --- 神经网络_第17张图片

(8)梯度检测

【theta是实数】

吴恩达机器学习学习笔记 --- 神经网络_第18张图片

 【theta是向量】

吴恩达机器学习学习笔记 --- 神经网络_第19张图片

 【当发现反向传播无误后,应理解关掉梯度检测】

吴恩达机器学习学习笔记 --- 神经网络_第20张图片

(9)随机初始化 

【(对称权重)若初始化全为0,那么相似位置的参数会一直相等,神经网络变得没有意义】

吴恩达机器学习学习笔记 --- 神经网络_第21张图片

 【随机初始化(打破对称)】

吴恩达机器学习学习笔记 --- 神经网络_第22张图片

【如何选择神经网络结构】

吴恩达机器学习学习笔记 --- 神经网络_第23张图片

(10)训练一个神经网络的步骤 

吴恩达机器学习学习笔记 --- 神经网络_第24张图片 

吴恩达机器学习学习笔记 --- 神经网络_第25张图片 

 

PS:神经网络反向传播的部分有些难理解

你可能感兴趣的:(机器学习,神经网络,机器学习,学习)