再论RBF神经网路


 

再论RBF神经网络

      前言:在此之前也看了不少的博文,但是总是觉得相同的概念不同的博文表达总是不同,同样的RBF神经网路,不同的博文会总结出不同的网络结构,再此还是自己总结一下比较好。

本文参考:《Matlab神经网络原理与实例精解》

一、RBF神经网络的特点

  1、结构简单、收敛速度快、能够逼近任意非线性函数。

  2、与BP伸经网络的区别还是输入层与隐含层传递的是范数(之前是权值和阈值),激活函数是径向基函数。

  3、输入层与隐含层是非线性的,隐含层与输出层是线性的。

 总结那么多特点,还是要先说说网络结构才能明白:

二、RBF神经网络有两种网络结构(正则化网络和广义神经网络)

  1、RBF(径向基函数)

再论RBF神经网路_第1张图片

     总而言之:径向基函数就是一种基函数,用它可以比较好的来拟合非线性函数。

2、正则化网络

再论RBF神经网路_第2张图片

再论RBF神经网路_第3张图片


其中:

1、    输入层个数为训练样本输入维数

2、    隐藏层只有输入层计算范数后在通过激活函数(径向基函数),并没有偏置。

3、    隐藏层个数等于输入样本数。

4、    输出层个数等于样本输出维数。并且隐藏层结果经过线性加权即可得到输出层。

     3、广义神经网路

再论RBF神经网路_第4张图片

再论RBF神经网路_第5张图片

与正则化网络的不同:

1、    隐藏层的个数小于训练样本数

2、    隐藏层与输出层增加了一个新的权值(相当于阈值)。

3、    在实际应用中,一般都采用广义径向基函数网络,也就是说,隐藏层节点数,视情况而定。而后边的学习算法,也是对此广义径向基函数神经网络的描述。

再论RBF神经网路_第6张图片

再论RBF神经网路_第7张图片

上述的扩展常数是径向基函数的方差。

再论RBF神经网路_第8张图片

再论RBF神经网路_第9张图片

4、    径向基神经网路的学习算法。

这个部分不再细说。只举个例子

再论RBF神经网路_第10张图片


再论RBF神经网路_第11张图片

参考文档: https://wenku.baidu.com/view/f3cdf7b9227916888486d7b0.html

你可能感兴趣的:(机器学习)