浅谈神经网络及其matlab实现（感知器，线性神经网络，BP神经网络）

浅谈神经网络及其matlab实现（感知器，线性神经网络，BP神经网络）

本文详细介绍了感知器，线性神经网络和BP神经网络的原理和相关知识，以及通过matlab工具箱和自己编程循环两种方法实现三种算法。

• 1.概述
• 2 感知器
• 3 线性神经网络
• 4 BP神经网络

1，概述
人工神经网络，通常称为神经网络，是一种运算的模型，由大量的神经元及其相互连接构成，每个节点代表一种特定的输出函数，称为激励函数。每个神经元之间的连接都代表一个对于通过该连接信号的加权值，称为权重，这相当于人工神经网络的记忆。

2，感知器
单层感知器：单层前向网络，只有一层处理单元的感知器，单层感知器模型如图所示：

学习算法



仿真例子1：点分类

循环实现：

仿真结果：

工具箱实现：

仿真结果：


仿真例子2：或运算

工具箱实现（循环类似只给出工具箱实现）

仿真结果：

2，线性神经网络
线性神经网络与感知器神经网络不同之处在于，每个神经元的传递函数为线性函数，因此感知器神经网络的输出只能是0或1，线性神经网络的输出可以取任意值。


线性神经网络模型是具有多个神经元的模型，具有n个输入的单层（m个神经元）线性神经元网络。

可通过添加非线性元素，解决线性不可分问题。

学习规则：
1什么是梯度下降算法：

2.均方误差最小的学习规则（LMS）

当不能直接求出网络权值和阈值时，可采用该规则计算。该规则是一种沿误差最陡下降方向（负梯度方向）对前一步权值进行修正的方法。沿此方向以适当强度对权值进行修正，就能最终达到最佳权值。


MATLAB神经网络工具箱中与线性神经网路有关的主要函数

仿真例子1：与运算


循环实现：

仿真结果：


工具箱实现：

仿真结果：

两个实际例子：


结果：


自适应线性神经元的输入向量为随机噪声n1,余弦信号和随机信号之和为目标向量，输出信号为网络调整过程中的误差信号。
程序：

结果：

说明：
adapt可以自适应调整网络的权值和阈值
train是批输入，一次性输入，网络参数进行一次调整。
adapt是既可以批输入，也可以增长输入（一个一个输入），可在线学习

4.BP神经网络
线性神经网络只能解决线性可分的问题，这与其单层网络接构有关。而BP神经网络包含多个隐含层，具备处理线性不可分的问题的能力。

BP网络是一种多层前馈神经网络，由输入层，隐含层和输出层组成。

注意：反向传播不是反馈，网络根据误差从后向前逐层进行修正，而反馈结构是输出层的输出值又连接到输入神经元作为下一次计算的输入。

BP学习算法：





图示：




BP算法流程图：

BP神经网络工具箱函数：

注意：
归一化：将数据映射到[0,1]或[-1,1]或者其他区间。
为什么归一化？
（1）输入数据单位不一样，有些数据的范围特别大，导致神经网络收敛慢，训练时间长。
（2）数据范围大的输入在模式分类中的作用可能偏大，范围小的作用可能偏小。
（3）由于输出层激活函数的值域有限制，需将数据映射到激活函数的值域。


例1.公路客运量和货运量预测（不使用工具箱）

通过前20年的数据来预测后两年的运输情况。







仿真结果：


例2.非线性函数拟合
使用BP神经网络实现对非线性函数拟合
程序（工具箱实现）：


仿真结果：

例3 汽油辛烷值预测

针对采集到的60组汽油样本，利用近红外线光谱仪，每个样本的光谱曲线由401个波点，同时测得其辛烷值含量，利用BP神经网络建立汽油红外光谱及其辛烷值的数学模型，并对模型性能进行评价。

程序（工具箱）：



仿真结果：


完整ppt下载：
ppt
完整程序下载：
程序
参考文献：
MATLAB神经网络超级学习手册 [刘冰，郭海霞 编著] 2014年版
MATLAB神经网络原理与实例精解
炼数成金：机器学及其matlab实现—从基础到实践
梯度下降参考博客：https://blog.csdn.net/red_stone1/article/details/80212814