运用Matlab创建BP神经网络
运用Matlab创建BP神经网络（R2010b）
一、BP神经网络属于前向网络
1、以下为创建BP神经网络的方法及参数意义
net=newff（P,T,S）或者net = newff(P,T,S,TF,BTF,BLF,PF,IPF,OPF,DDF)
参数说明：
(1)P：输入参数矩阵。(RxQ1)
(2)T：目标参数矩阵。(SNxQ2)
(3)S：N-1个隐含层的数目（S（i）到S（N-1）），输出层的单元数目取决于T，默认为空矩阵。
(4)TF：相关层的传递函数，默认隐含层为tansig函数，输出层为purelin函数。
传递函数:
- purelin 线性传递函数
- tansig 正切 S 型传递函数
- logsig 对数 S 型传递函数
隐含层和输出层函数的选择对BP神经网络预测精度有较大影响，一般隐含层节点转移函数选用 tansig函数或logsig函数，输出层节点转移函数选用tansig函数或purelin函数。
(5)BTF：BP神经网络学习训练函数，默认值为trainlm函数。
学习训练函数:
神经网络的学习分为有导师学习和无导师学习。
| newff函数中训练函数 | ||
| 最速下降BP算法 | traingd | 基本梯度下降法，收敛速度比较慢。 |
| 动量BP算法 | traingdm | 带有动量项的梯度下降法, 通常要比traingd 速度快。 |
| 学习率可变的BP算法 | trainda（学习率可变的最速下降BP算法） | 自适应学习率的梯度下降法 |
| traindx（学习率可变的动量BP算法） | 带有动量项的自适应学习算法, 速度要比traingdm 快。 | |
| 弹性算法 | trainrp | 弹性BP 算法, 具有收敛速度快和占用内存小的优点。 |
| 变梯度算法 | traincgf（Fletcher-Reeves修正算法） | Fletcher-Reeves 共轭梯度法,为共轭梯度法中存储量要求最小的算法。 |
| traincgp（Polak_Ribiere修正算法） | Polak-Ribiers共轭梯度算法, 存储量比traincgf稍大,但对某些问题收敛更快。 | |
| traincgb（Powell-Beale复位算法） | Powell-Beale共轭梯度算法,存储量比traincgp稍大,但一般收敛更快，以上三种共轭梯度法,都需要进行线性搜索。 | |
| trainbfg（BFGS 拟牛顿算法） | BFGS- 拟牛顿法, 其需要的存储空间比共轭梯度法要大,每次迭代的时间也要多,但通常在其收敛时所需的迭代次数要比共轭梯度法少,比较适合小型网络。 | |
| trainoss（OSS算法） | 一步分割法,为共轭梯度法和拟牛顿法的一种折衷方法。 | |
| trainlm（LM算法） | Levenberg-Marquardt算法,对中等规模的网络来说, 是速度最快的一种训练算法, 其缺点是占用内存较大。对于大型网络, 可以通过置参数mem-reduc 为1, 2, 3,⋯,将Jacobian 矩阵分为几个子矩阵。但这样也有弊端, 系统开销将与计算Jacobian的各子矩阵有很大关系。 | |
| trainscg | 归一化共轭梯度法,是唯一一种不需要线性搜索的共轭梯度法。 | |
| trainbr | 贝叶斯规则法,对Levenberg-Marquardt算法进行修改, 以使网络的泛化能力更好。同时降低了确定最优网络结构的难 | |
参数说明：
神经网络主要训练参数:
net.trainParam.goal=0.1 % 训练目标最小误差，这里设置为0.1
net.trainParam.epochs=300; % 训练次数，这里设置为300次
net.trainParam.show=20; % 显示频率，这里设置为没训练20次显示一次
net.trainParam.mc=0.95; % 附加动量因子
net.trainParam.lr=0.05; % 学习速率，这里设置为0.05
net.trainParam.min_grad=1e-6; %最小性能梯度
net.trainParam.min_fail=5; % 最大确认失败次数
(6)BLF：权重学习函数，默认值为learngdm。
(7)PF：性能函数，默认值为mse。
IPF，OPF，DDF均为默认值即可。
2、BP神经网络预测函数
SimOut = sim('model', Parameters) & y=sim(net,x)
函数功能：用训练好的BP神经网络预测函数输出
net：训练好的网络
x：输入数据
y：网络预测数据
3、训练函数
[net,tr] = train(Net,P,T,Pi,Ai)
其中，
Net 待训练的网络
P 输入数据矩阵
T 输出数据矩阵 (default = zeros)
Pi 初始化输入层条件 (default = zeros)
Ai 初始化输出层条件 (default = zeros)
net 训练好的网络
tr 训练过程记录
注意：P Ni-by-TS cell array Each element P{i,j,ts} is an Ni-by-Q matrix.
T Nl-by-TS cell array Each element T{i,ts} is a Ui-by-Q matrix.
BP网络的常用函数表
| 函数类型 | 函数名称 | 函数用途 |
| 前向网络创建函数 | newcf | 创建级联前向网络 |
| Newff | 创建前向BP网络 | |
| 传递函数 | logsig | S型的对数函数 |
| tansig | S型的正切函数 | |
| purelin | 纯线性函数 | |
| 学习函数 | learngd | 基于梯度下降法的学习函数 |
| learngdm | 梯度下降动量学习函数 | |
| 性能函数 | mse | 均方误差函数 |
| msereg | 均方误差规范化函数 | |
| 显示函数 | plotperf | 绘制网络的性能 |
| plotes | 绘制一个单独神经元的误差曲面 | |
| plotep | 绘制权值和阈值在误差曲面上的位置 | |
| errsurf | 计算单个神经元的误差曲 |
二、matlab代码
function [result]=myBP(option,data)
hiddenumber=data.hiddenumber;
inputnumber=data.inputnumber;
outputnumber=data.outputnumber;
S=data.S;
indexM=data.indexM;
N=data.N;
input_train=data.train_x0;
output_train=data.train_y0;
input_test=data.test_x0;
%新建bp神经网络
net0=newff(input_train',output_train',hiddenumber);
%net0.trainFcn='traingd';
net0.trainParam.epochs=50;%训练次数
net0.trainParam.lr=0.2;%学习率
net0.trainParam.goal=0.01;%训练目标最小误差，这里设置为0.01
net0.trainParam.showWindow = false; % 不显示训练窗口
net0.trainParam.showCommandLine = false;% 命令行不显示结果
%训练
[net0,tr]=train(net0,input_train',output_train');
%仿真
ygabptest=sim(net0,input_test');
ygabptest=mapminmax('reverse',ygabptest,option.ps_y);%预测数据反归一化
T2=mapminmax('reverse',data.test_y0',option.ps_y);%预测数据反归一化
fit=sum(sum((abs(ygabptest-T2)./T2).^2));
result.net=net0;
result.ygabptest=ygabptest;
result.T2=T2;
ygabptrain=sim(net0,input_train');
ygabptrain=mapminmax('reverse',ygabptrain,option.ps_y);%预测数据反归一化
T1=mapminmax('reverse',data.train_y0',option.ps_y);%预测数据反归一化
result.ygabptrain=ygabptrain;
result.T1=T1;
fit=sum(sum((abs(ygabptest-T2)./T2).^2))+sum(sum((abs(ygabptrain-T1)./T1).^2));
result.fit=fit;
end参考：
神经网络理论 超全超详细 通熟易懂
Matlab mapminmax函数使用及原理