径向基函数(RBF)

转自http://www.cnblogs.com/yangxi/archive/2013/05/30/3107921.html

Radial basis function（径向基函数）

径向基函数是一个取值仅仅依赖于离原点距离的实值函数，也就是Φ（x）=Φ(‖x‖),或者还可以是到任意一点c的距离，c点成为中心点，也就是Φ（x，c）=Φ(‖x-c‖)。任意一个满足Φ（x）=Φ(‖x‖)特性的函数Φ都叫做径向量函数，标准的一般使用欧氏距离，尽管其他距离函数也是可以的。

一些径向函数代表性的用到近似给定的函数，这种近似可以被解释成一个简单的神经网络，径向基函数在支持向量机中也被用做核函数。

 

RBF网络能够逼近任意的非线性函数，可以处理系统内的难以解析的规律性，具有良好的泛化能力，并有很快的学习收敛速度，已成功应用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。

 

RBF (Radial Basis Function)可以看作是一个高维空间中的曲面拟合(逼近)问题，学习是为了在多维空间中寻找一个能够最佳匹配训练数据的曲面，然后来一批新的数据，用刚才训练的那个曲面来处理(比如分类、回归)。RBF的本质思想是反向传播学习算法应用递归技术，这种技术在统计学中被称为随机逼近。RBF里的basis function(径向基函数里的基函数)就是在神经网络的隐单元里提供了提供了一个函数集，该函数集在输入模式（向量）扩展至隐空间时，为其构建了一个任意的“基”。这个函数集中的函数就被称为径向基函数。 很明显，RBF属于神经网络领域的东西，所以像很多神经网络一样，其结构由：输入层、隐层、输出层 三层组成。

输入层： 与外界环境连结起来。             隐层： 从输入空间到隐空间之间进行非线性变换；             输出层： 是线性的，为输入层的输入模式提供响应。 

 

非线性变换的基本理论(Cover, 1965):              1.一个模式分类问题如果映射到一个高维空间将会比映射到一个低维空间更可能实现线性可分;              2. 隐空间的维数越高，逼近就越精确。

 

目前常用的三大径向基函数：

 

 

源自：

http://hi.baidu.com/christole/item/07ae3660d297a397c5d249d3

http://en.wikipedia.org/wiki/Radial_basis_function

http://baike.baidu.com/view/1683917.htm

http://www.cnblogs.com/zhangchaoyang/articles/2591663.html