【神经网络第三期】RBF神经网络基本原理和模型应用

目录

1. RBF神经网络基本概

2. RBF神经网络结构模型

3.RBF神经网络的学习算法

4. 相关模型应用

---

1. RBF神经网络基本概

径向基函数（ Radical Basis Function, RBF）是多维空间插值的传统技术，由Powell 于1985 年提出。1988 年， Broomhead 和Lowe 根据生物神经元具有局部响应这一特点，将RBF
引人神经网络设计中，产生了RBF 神经网络。1989 年， Jackson 论证了RBF 神经网络对非线性连续函数的一致逼近性能。RBF 神经网络属于前向神经网络类型，网络的结构与多层前向网络类似，是一种三层的前向网络。第一层为输入层，由信号源结点组成；第二层为隐藏层，隐藏层节点费宣布~ 所描述问题的需要而定，隐藏层中神经元的变换函数即径向基函数是对中心点径向对称且衰减的非负非线性函数，该函数是局部响应函数，而以前的前向网络变换函数都是全局响应的函数； 第三层为输出层，它对输入模式作出响应。RBF 网络的基本思想是：用RBF 作为隐单元的“基”构成隐藏层空间，隐含层对输入矢量进行变换，将低维的模式输入数据变换到高维空间内，使得在低维空间内的线性不可分的问题在商维空间内线性可分。RBF 神经网络结构简单、训练简洁而且学习收敛速度快，能够逼近任意非线性函数，因此它已被广泛应用于时间序列分析、模式识别、非线性控制和图形处理等领域。

2. RBF神经网络结构模型

径向基神经网络的神经元筷型如图1-1 所示。径向基神经网络的节点激活函数采用径向基函数，通常定义为空间任一点到某一中心之间的欧式距离的单调函数。

 图1-1 径向基神经元模型

由图7 - 1 所示的径向基神经元结构可以看出，径向基神经网络的激活函数是以输入向盘和权值向盘之间的距离11 dist 11 作为自变量的。径向基神经网络的激活函数的一般表达式为

3.RBF神经网络的学习算法

RBF 神经网络学习算法需要求解的参数有3 个z 基函数的中心、方差以及隐含层到输出层的权值。根据径向基函数中心选取方法的不同， RBF 网络有多种学习方法，如随机选取中心法、自组织选取法、有监督选取中心法和正交最小二乘法等。下面将介绍自组织选取中心的RBF 神经网络学习法。该方法由两个阶段组成：一是自组织学习阶段，此阶段为无导师学习过程，求解隐含层基函数的中心与方差；二是有导师学习阶段，此阶段求解隐含层到输出层之间的权值。

径向基神经网络中常用的径向基函敏是高斯函数，因此径向基神经网络的激活函数可表示为

 式中， 为欧式范数；Ci为高斯函数的中心，σ为高斯函数的方差。

由图7-2所示的径向基神经网络的结构可得到网络的输出为

式中， 为第P个输入样本；p=1,2,3....,P，P为样本总数，Ci为网络隐含层结点的中心；Wij 为隐含层到输出层的连接权值；i=1，2，3....h为隐含层节点数；yi为与输入样本对应的网络的第j个输出结点的实际输出。

设d是样本的期望输出值，那么基函数的方差可表示为

 学习算法具体步骤如下：

步骤1 ：基于K －均值聚类方法求取基函数中心 c 。

1.1 网络初始化：随机选取h 个训练样本作为聚类中心 ci（i=1,2,...h)

1.2 将输入的训练样本集合按最近邻规则分组： 按照 与中心为之间的欧式距离将分配到输入样本的各个聚类集合中。

1.3 重新调整聚类中心：计算各个聚类集合中训练样本的平均值，即新的聚类中心Ci，如果新的聚类中心不再发生变化，则所得到的Ci，即为RBF 神经网络最终的基函数中心，否则返回1.2 ，进行下一轮的中心求解。

步骤2：求解方差

该RBF 神经网络的基函数为高斯函数，方差 可如下求解：

式中，Cmax是所选取中心之间的最大距离。

步骤3：计算隐含层和输出层之间的权值。

隐含层至输出层之间神经元的连接权值可以用最小二乘法直接计算得到，计算公式如下：

4. 相关模型应用

4.1 基于RBF神经网络的短时电力负荷预测

4.2 基于RBF神经网络的人口数量模型预测