神经网络案例编程实战

目录

一、数据预处理

二、BP神经网络的训练过程

三、BP神经网络的测试过程


一、数据预处理

       在训练神经网络前一般需要对数据进行预处理,一种重要的预处理手段就是归一化处理。下面简单介绍一下归一化处理的原理和方法。

(1)什么是归一化?

数据归一化就是把数据同等降低维度,比如说一组数据是[99,98,97,100],那么为了更好的效果,我们可以把这组数据归一化处理得到[0.99,0.98,0.97,1].

(2)为什么要归一化处理?

         a.输入数据的单位不一样,归一化处理后得到一个统一的单位

         b.有些数据的范围可能会特别大,导致的结果是神经网络收敛慢,从而导致训练时间变长

(3)归一化算法

一种简单而快速的归一化算法是线性转换算法。线性转换算法常见的有两种形式:

        1. Y=(X-min)/(max-min):其中min为x的最小值,max为x的最大值,输入向量为x,归一化后的输出向量为y。上式将数据归一化到[0,1]区间,当激活函数采用S形函数时(值域为(0,1))时这条式子适用。

        2.y=2*(x-min)/(max-min)-1:这条公式将数据归一化到[-1,1]区间,当激活函数采用双极S形函数(值域为(-1,1))时这条式子适用。

二、BP神经网络的训练过程

(1)初始化网络的突触权值和阈值矩阵;

(2)训练样本的呈现;

(3)前向传播计算;

(4)误差方向传播计算并更新权值;

(5)迭代,用新的样本进行步骤3和4,直至满足停止准则。

三、BP神经网络的测试过程

(1)数据分为训练数据和测试数据,根据训练数据训练模型,再根据测试数据验证模型训练的正确性质。

(2)将测试数据输入模型,得到理论测试输出和实际输出,对比后即可确定模型预测的正确率

基础代码:

%这个只能做已知条件内的预测
%BP网络函数逼近实例
%1.首先定义正弦函数,采样率为20Hz,频率为1Hz
k=1;%设定正弦信频率 
p=[0:0.05:40]; 
t=cos(k*pi*p)+3*sin(k*pi*p);
%figure(1); 
%plot(p,t,'-'); 
%xlabel('时间');
%ylabel('输入信号');
%title('正确信号’); 
% 2.生成BP网络。用newff函数生成前向型BP网络,设定隐层中神经元数目为10 
%分别选择隐层的传递函数为tansig,输出层的传递函数为purelin, 
%学习算法为trainlm。 
net=newff(minmax(p),[10,10,1],{'tansig','tansig','purelin'},'trainlm');
%对生成的网络进行仿真并做图显示。 
%y1= sim(net,p);plot(p,t,'-',p,y1,'__') 
%4.训练。对网络进行训练,设定训练误差目标为 1e-5,最大迭代次数为300. 
%学习速率为0.05. 
net.trainParam.lr=0.05;
net.trainParam.epochs=10000;
net.trainParam.goal=1e-5; 
[net,tr]=train(net,p,t); 
%5.再次对生成的网络进行仿真并做图显示。 
y2=sim(net,p); 
plot(p,t,'-',p,y2,'+') 

使用Matlab建立前馈神经网络主要会使用到下面3个函数:

newff:前馈网络创建函数

train:训练一个神经网络

sim:使用网络进行仿真

(3)newff函数语法

newff函数参数列表有很多的可选参数,这里介绍newff函数的一种简单的形式。

语法:net=newff(A,B,{C},'trainFun')

参数解释:

A:一个n*2的矩阵,第i行元素为输入信号xi的最小值和最大值;

B:一个k维行向量,其元素为网络中各层节点数;

C:一个k维字符串行向量,每一分量为对应层神经元的激活函数;

trainFun:为学习规则采用的训练算法。

(4)常用的激活函数

1.线性函数:'purelin'

2.对数S形转移函数:'logsig'

3.双曲正切S形函数:'tansig'

(5)常见的训练函数

1.traingd:梯度下降BP训练函数

2.traingdx:梯度下降自适应学习率训练函数

(6)网络配置参数

net.trainparam.goal:神经网络训练的目标误差

net.trainparam.show:显示中间结果的周期

net.trainparam.epochs:最大迭代次数

net.trainparam..lr:学习率

(7)train函数(网络训练学习函数)

语法:[net,tr]=train(net,X,Y)

参数:

X:网络实际输入

Y:网络应有输出

tr:训练跟踪信息

Y1:网络实际输出

E:误差矩阵

(8)sim函数

语法:Y=sim(net,X)

参数:

net:网络

X:输入给网络的K*N矩阵,其中K为网络输入个数,N为数据样本数

Y:输出矩阵Q*N,其中Q为网络输出个数

总结:

神经网络案例编程实战_第1张图片

神经网络案例编程实战_第2张图片本次经过实战测试,发现该代码用来做已知数据范围内的预测效果比较好【比如在X为[0,5000]范围进行训练,然后预测X=4000时候的情况是比较好的,预测X>5000时,效果不佳】,预测未知数据建议使用灰色预测或其他预测方法

你可能感兴趣的:(数学建模从0到1,神经网络,深度学习,机器学习)