人工神经网络

应用背景：我们知道，在线性系统中，根据系统函数，由输入信号必能推算出输出信号，这种因果关系在数学上也可以得到证明，但在工程实际问题中，会遇到许多非线性系统问题，那么线性系统是无法很好的解决此类问题，因此人们在研究生物的大脑处理信号的过程中发现神经网络是一种非常复杂的非线性系统模型，受此启发，人们提出了人工神经网络（Artificial  Neural  Network , ANN）。随着对人工神经网络的不断深入研究，使之在模式识别、智能机器人、预测估计、智能控制、自然语言处理、非结构化信息处理等领域得到广泛成功的应用。

基本原理：人工神经网络，顾名思义，它是模拟生物的神经网络系统的工作机制，生物大脑神经元结构如下图所示：

                                                                     

它主要包括树突、神经元细胞体、轴突，一个神经元的树突与另一个神经元的轴突之间连接的部分称为突触。对应的人工神经元如下图所示：

                                                                                    

它主要包括连接权值、求和单元、激励函数。由多个人工神经元组成的结构为人工神经网络，它的工作过程分为两个阶段，第一阶段是学习期，通过不断的修改权值而得到一个针对相应问题的稳定的神经网络模型；第二阶段是测试期，利用已经得到的人工神经网络模型对测试样本进行测试。

典型的人工神经网络模型：根据人工神经网络连接的拓扑结构、神经元的特征以及模型学习规则等提出各种各样的神经网络模型，主要包括MP模型、感知机、自适应线性神经网络、BP神经网络、径向基神经网络、竞争学习神经网络、学习向量量化神经网络、Elman神经网络、Hopfield神经网络、Boltzmann神经网络。