深度学习入门看这一篇就够了(下)

深度学习入门看这一篇就够了(下)_第1张图片

BP算法例子

深度学习入门看这一篇就够了(下)_第2张图片

BP算法例子-FP过程

深度学习入门看这一篇就够了(下)_第3张图片
深度学习入门看这一篇就够了(下)_第4张图片

BP算法例子-BP过程(W7)

深度学习入门看这一篇就够了(下)_第5张图片
深度学习入门看这一篇就够了(下)_第6张图片

深度学习入门看这一篇就够了(下)_第7张图片
BP算法例子-BP过程(W1)

深度学习入门看这一篇就够了(下)_第8张图片
深度学习入门看这一篇就够了(下)_第9张图片
深度学习入门看这一篇就够了(下)_第10张图片

BP算法例子-FP多次迭代效果

深度学习入门看这一篇就够了(下)_第11张图片

径向基(RBF)神经网络

nRBF网络能够逼近任意非线性的函数。
n可以处理系统内难以解析的规律性,具有很好的泛化能力,并且具有较快的学习速度。
n有很快的学习收敛速度,已成功应用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。
n当网络的一个或多个可调参数(权值或阈值)对任何一个输出都有影响时,这样的网络称为全局逼近网络。由于对于每次输入,网络上的每一个权值都要调整,从而导致全局逼近网络的学习速度很慢,比如BP网络。
n如果对于输入空间的某个局部区域只有少数几个连接权值影响输出,则该网络称为局部逼近网络,比如RBF网络。
RBF网络的原理
深度学习入门看这一篇就够了(下)_第12张图片
深度学习入门看这一篇就够了(下)_第13张图片
深度学习入门看这一篇就够了(下)_第14张图片

神经网络之DNN问题

一般来讲,可以通过增加神经元和网络层次来提升神经网络的学习能力,使其得到的模型更加能够符合数据的分布场景;但是实际应用场景中,神经网络的层次一般情况不会太大,因为太深的层次有可能产生一些求解的问题在DNN的求解中有可能存在两个问题:梯度消失和梯度爆炸;我们在求解梯度的时候会使用到链式求导法则,实际上就是一系列的连乘,如果每一层都小于1的话,则梯度越往前乘越小,导致梯度消失,而如果连乘的数字在每层都是大于1的,则梯度越往前乘越大,导致梯度爆炸.

神经网络案例

BP神经网络实现公路客运量即公路货运量预测案例;代码详见: https://blog.csdn.net/leva345/article/details/119443003
Python实战RBF神经网络;代码详见:https://blog.csdn.net/leva345/article/details/119443872

你可能感兴趣的:(人工智能,深度学习,神经网络,python,人工智能,深度学习)