人工神经网络的工作原理,神经网络的基本原理

神经网络算法原理

4.2.1概述人工神经网络的研究与计算机的研究几乎是同步发展的。

1943年心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型，20世纪50年代末，Rosenblatt提出了感知器模型，1982年，Hopfiled引入了能量函数的概念提出了神经网络的一种数学模型，1986年，Rumelhart及LeCun等学者提出了多层感知器的反向传播算法等。

神经网络技术在众多研究者的努力下，理论上日趋完善，算法种类不断增加。目前，有关神经网络的理论研究成果很多，出版了不少有关基础理论的著作，并且现在仍是全球非线性科学研究的热点之一。

神经网络是一种通过模拟人的大脑神经结构去实现人脑智能活动功能的信息处理系统，它具有人脑的基本功能，但又不是人脑的真实写照。它是人脑的一种抽象、简化和模拟模型，故称之为人工神经网络（边肇祺，2000）。

人工神经元是神经网络的节点，是神经网络的最重要组成部分之一。目前，有关神经元的模型种类繁多，最常用最简单的模型是由阈值函数、Sigmoid函数构成的模型（图4-3）。

图4-3人工神经元与两种常见的输出函数神经网络学习及识别方法最初是借鉴人脑神经元的学习识别过程提出的。

输入参数好比神经元接收信号，通过一定的权值（相当于刺激神经兴奋的强度）与神经元相连，这一过程有些类似于多元线性回归，但模拟的非线性特征是通过下一步骤体现的，即通过设定一阈值（神经元兴奋极限）来确定神经元的兴奋模式，经输出运算得到输出结果。

经过大量样本进入网络系统学习训练之后，连接输入信号与神经元之间的权值达到稳定并可最大限度地符合已经经过训练的学习样本。

在被确认网络结构的合理性和学习效果的高精度之后，将待预测样本输入参数代入网络，达到参数预测的目的。

4.2.2反向传播算法（BP法）发展到目前为止，神经网络模型不下十几种，如前馈神经网络、感知器、Hopfiled网络、径向基函数网络、反向传播算法（BP法）等，但在储层参数反演方面，目前比较成熟比较流行的网络类型是误差反向传播神经网络（BP-ANN）。

BP网络是在前馈神经网络的基础上发展起来的，始终有一个输入层（它包含的节点对应于每个输入变量）和一个输出层（它包含的节点对应于每个输出值），以及至少有一个具有任意节点数的隐含层（又称中间层）。

在BP-ANN中，相邻层的节点通过一个任意初始权值全部相连，但同一层内各节点间互不相连。

对于BP-ANN，隐含层和输出层节点的基函数必须是连续的、单调递增的，当输入趋于正或负无穷大时，它应该接近于某一固定值，也就是说，基函数为“S”型（Kosko，1992）。

BP-ANN的训练是一个监督学习过程，涉及两个数据集，即训练数据集和监督数据集。

给网络的输入层提供一组输入信息，使其通过网络而在输出层上产生逼近期望输出的过程，称之为网络的学习，或称对网络进行训练，实现这一步骤的方法则称为学习算法。

BP网络的学习过程包括两个阶段：第一个阶段是正向过程，将输入变量通过输入层经隐层逐层计算各单元的输出值；第二阶段是反向传播过程，由输出误差逐层向前算出隐层各单元的误差，并用此误差修正前层权值。

误差信息通过网络反向传播，遵循误差逐步降低的原则来调整权值，直到达到满意的输出为止。

网络经过学习以后，一组合适的、稳定的权值连接权被固定下来，将待预测样本作为输入层参数，网络经过向前传播便可以得到输出结果，这就是网络的预测。

反向传播算法主要步骤如下：首先选定权系数初始值，然后重复下述过程直至收敛（对各样本依次计算）。

（1）从前向后各层计算各单元Oj储层特征研究与预测（2）对输出层计算δj储层特征研究与预测（3）从后向前计算各隐层δj储层特征研究与预测（4）计算并保存各权值修正量储层特征研究与预测（5）修正权值储层特征研究与预测以上算法是对每个样本作权值修正，也可以对各个样本计算δj后求和，按总误差修正权值。

什么是人工神经网络？

一.一些基本常识和原理[什么叫神经网络?]人的思维有逻辑性和直观性两种不同的基本方式常见的神经网络结构。

逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。

然而，直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。

这种思维方式的根本之点在于以下两点:1.信息是通过神经元上的兴奋模式分布储在网络上;2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。人工神经网络就是模拟人思维的第二种方式。

这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。

[人工神经网络的工作原理]人工神经网络首先要以一定的学习准则进行学习，然后才能工作。

现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。

所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。

首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。

在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。

如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。

如此操作调整，当给网络轮番输入若干个手写字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。

这说明网络对这两个模式的学习已经获得了成功，它已将这两个模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。

一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多。

=================================================关于一个神经网络模拟程序的下载人工神经网络实验系统(BP网络)V1.0Beta作者:沈琦作者关于此程序的说明:从输出结果可以看到，前3条"学习"指令，使"输出"神经元收敛到了值0.515974。

而后3条"学习"指令，其收敛到了值0.520051。再看看处理4和11的指令结果P*Out1:0.520051看到了吗？"大脑"识别出了4和11是属于第二类的！

怎么样?很神奇吧?再打show指令看看吧!"神经网络"已经形成了!你可以自己任意的设"模式"让这个"大脑"学习分辩哦!只要样本数据量充分(可含有误差的样本)，如果能够在out数据上收敛地话，那它就能分辨地很准哦!有时不是绝对精确，因为它具有"模糊处理"的特性.看Process输出的值接近哪个Learning的值就是"大脑"作出的"模糊性"判别!=================================================人工神经网络论坛(旧版,枫舞推荐)国际神经网络学会(INNS)(英文)欧洲神经网络学会(ENNS)(英文)亚太神经网络学会(APNNA)(英文)日本神经网络学会(JNNS)(日文)国际电气工程师协会神经网络分会研学论坛神经网络;sty=1&age=0人工智能研究者俱乐部2nsoft人工神经网络中文站=================================================推荐部分书籍:人工神经网络技术入门讲稿(PDF)神经网络FAQ(英文)数字神经网络系统(电子图书)神经网络导论(英文)===============================================一份很有参考价值的讲座是Powerpoint文件，比较大，如果网速不够最好用鼠标右键下载另存.。

BP神经网络的工作原理

人工神经网络就是模拟人思维的第二种方式。这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。

虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。人工神经网络首先要以一定的学习准则进行学习，然后才能工作。

现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。

所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。

首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。

在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。

如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。

如此操作调整，当给网络轮番输入若干个手写字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。

这说明网络对这两个模式的学习已经获得了成功，它已将这两个模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。

一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多。如图所示拓扑结构的单隐层前馈网络，一般称为三层前馈网或三层感知器，即：输入层、中间层（也称隐层）和输出层。

它的特点是：各层神经元仅与相邻层神经元之间相互全连接，同层内神经元之间无连接，各层神经元之间无反馈连接，构成具有层次结构的前馈型神经网络系统。

单计算层前馈神经网络只能求解线性可分问题，能够求解非线性问题的网络必须是具有隐层的多层神经网络。

人体的神经元，是怎么工作的？

小编对人是比较感兴趣的，而且大家也都知道人是高级生物，而且大家平时在生活中都会进行思考，所以我们的脑子也会不断地进行运转。

人体的神经元也需要进行工作，因为人体的神经元包含了非常复杂的交感神经，所以这些交感神经就会持续的工作。一、人体的神经元是怎么工作的呢？神经元的种类也是非常多的，所以不同的神经元工作的内容也是不一样的。

如果大家对于相关的信息感兴趣，这个时候也可以在网络上搜索详细的信息和资料，而且大家也都知道人是需要进行运动的，而且我们每天都需要进行思考，所以不同的神经元工作的种类也是不一样的。

如果你正在进行运动，这个时候身体的肌肉也会不断地进行收缩，因此神经元也会做出相关的反应。如果你正在进行思考，那么大脑也是包含了很多复杂的神经的。

二、具体的介绍和分析小编在这里就给大家做一个具体的介绍，因为很多人都不知道人体的神经元是怎么进行工作的，其实神经元的工作原理是比较简单的，因为各种神经细胞一直都在进行交流，所以就可以让我们的身体得到正常的运转。

大家平时在生活中也必须要思考一些问题，所以我们必须要保证神经系统能够把身体和大脑连接在一起，这样的话神经元才能够跟正确的对象进行交流和对话。

大家也必须要注意这些问题，而且也必须要了解我们的身体，神经元网络是有很多类似的神经元系统组成在一起的。

大家可以在网络上查询一些资料，而且你也可以更好地了解我们的身体，因为人体的构造是比较复杂的，所以要注意这些地方。

什么是人体神经网络？

神经系统概述神经系统nervoussystem是机体内起主导作用的系统。

内、外环境的各种信息，由感受器接受后，通过周围神经传递到脑和脊髓的各级中枢进行整合，再经周围神经控制和调节机体各系统器官的活动，以维持机体与内、外界环境的相对平衡。

人体各器官、系统的功能都是直接或间接处于神经系统的调节控制之下，神经系统是整体内起主导作用的调节系统。

人体是一个复杂的机体，各器官、系统的功能不是孤立的，它们之间互相联系、互相制约；同时，人体生活在经常变化的环境中，环境的变化随时影响着体内的各种功能。

这就需要对体内各种功能不断作出迅速而完善的调节，使机体适应内外环境的变化。实现这一调节功能的系统主要就是神经系统。神经系的基本结构神经系统是由神经细胞（神经元）和神经胶质所组成。1．神经元。

神经元neuron是一种高度特化的细胞，是神经系统的基本结构和功能单位，它具有感受刺激和传导兴奋的功能。神经元由胞体和突起两部分构成。

胞体的中央有细胞核，核的周围为细胞质，胞质内除有一般细胞所具有的细胞器如线粒体、内质网等外，还含有特有的神经原纤维及尼氏体。神经元的突起根据形状和机能又分为树突dendrite和轴突axon。

树突较短但分支较多，它接受冲动，并将冲动传至细胞体，各类神经元树突的数目多少不等，形态各异。每个神经元只发出一条轴突，长短不一，胞体发生出的冲动则沿轴突传出。

根据突起的数目，可将神经元从形态上分为假单极神经元、双极神经元和多极神经元三大类。根据神经元的功能，可分为感觉神经元、运动神经元和联络神经元。

感觉神经元又称传入神经元，一般位于外周的感觉神经节内，为假单极或双极神经元，感觉神经元的周围突接受内外界环境的各种刺激，经胞体和中枢突将冲动传至中枢；运动神经元又名传出神经元，一般位于脑、脊髓的运动核内或周围的植物神经节内，为多极神经元，它将冲动从中枢传至肌肉或腺体等效应器；联络神经元又称中间神经元，是位于感觉和运动神经元之间的神经元，起联络、整合等作用，为多极神经元。

2．神经胶质。神经胶质neuroglia数目较神经元，突起无树突、轴突之分，胞体较小，胞浆中无神经原纤维和尼氏体，不具有传导冲动的功能。

神经胶质对神经元起着支持、绝缘、营养和保护等作用，并参与构成血脑屏障。3．突触。神经元间联系方式是互相接触，而不是细胞质的互相沟通。

该接触部位的结构特化称为突触synapse，通常是一个神经元的轴突与另一个神经元的树突或胞体借突触发生机能上的联系，神经冲动由一个神经元通过突触传递到另一个神经元。

神经系统的构成神经系统分为中枢神经系统和周围神经系统两大部分。中枢神经系统包括脑和脊髓。脑和脊髓位于人体的中轴位，它们的周围有头颅骨和脊椎骨包绕。

这些骨头质地很硬，在人年龄小时还富有弹性，因此可以使脑和脊髓得到很好的保护。脑分为端脑、间脑、小脑和脑干四部分。

脊髓主要是传导通路，能把外界的刺激及时传送到脑，然后再把脑发出的命令及时传送到周围器官，起到了上通下达的桥梁作用。周围神经系统包括脑神经、脊神经和植物神经。

脑神经共有12对，主要支配头面部器官的感觉和运动。人能看到周围事物，听见声音，闻出香臭，尝出滋味，以及有喜怒哀乐的表情等，都必须依靠这12对脑神经的功能。

脊神经共有31对，其中包括颈神经8对，胸神经12对，腰神经5对，骶神经5对，尾神经1对。脊神经由脊髓发出，主要支配身体和四肢的感觉、运动和反射。

植物神经也称为内脏神经，主要分布于内脏、心血管和腺体。心跳、呼吸和消化活动都受它的调节。

植物神经分为交感神经和副交感神经两类，两者之间相互桔抗又相互协调，组成一个配合默契的有机整体，使内脏活动能适应内外环境的需要。神经系统神经系统是人体内由神经组织构成的全部装置。主要由神经元组成。

神经系统由中枢神经系统和遍布全身各处的周围神经系统两部分组成。中枢神经系统包括脑和脊髓，分别位于颅腔和椎管内，是神经组织最集中、构造最复杂的部位。存在有控制各种生理机能的中枢。

周围神经系统包括各种神经和神经节。其中同脑相连的称为脑神经，与脊髓相连的为脊神经，支配内脏器官的称植物性神经。各类神经通过其末梢与其他器官系统相联系。神经系统具有重要的功能，是人体内起主导作用的系统。

一方面它控制与调节各器官、系统的活动，使人体成为一个统一的整体。另一方面通过神经系统的分析与综合，使机体对环境变化的刺激作出相应的反应，达到机体与环境的统一。

神经系统对生理机能调节的基本活动形式是反射。人的大脑的高度发展，使大脑皮质成为控制整个机体功能的最高级部位，并具有思维、意识等生理机能。神经系统发生于胚胎发育的早期，由外胚层发育而来。

小脑、大脑和神经系统大脑的功能主要有：进行理论性的思考、判断事物、说话、掌管本能以及掌管情感。

神经的功能是传递脑部的指令到身体各部位，再由末梢神经和中枢神经将身体各部位所收集的情报回传到大脑进行资料分析的。小脑的功能是由旧小脑负责保持身体的平衡，例如站立、行走、运动。

而新小脑是负责将大脑所传达的粗略运动指令进行仔细调整后，通过神经细胞，以电脑的速度和准确性，传到身体的每个部位。

小脑皮质每1mm2聚集了50万个神经细胞，之所以我们能够使全身的肌肉协调地进行各种动作，例如挥杆自如，全部都是因为新小脑，即神经细胞的聚合体，以千分之一秒的速度来准确地处理了大脑发出的运动指令，如果这里出了问题，就无法巧妙用手握住物体，又或无法做到协调的动作了。

保护脑部的正常运作大家对脑部和神经粗略地了解了一些主要功能，现在我们要学习如何去保护及保证脑部及神经系统能发挥正常的功能。因为当它们正常操作时，我们的高尔夫球和生活才能好好享受。

首先要了解脑部会有机会出现一些疾病和原因，脑部常见的疾病有脑血管阻塞或破裂即是脑中风，但它并不是单一的疾病，而是脑梗塞、脑出血、蜘蛛膜下出血等会使脑血管产生障碍的各种疾病的总称。

而这些病的背景都是动脉硬化，再加上精神过度紧张、饮酒、身体过度疲劳而身体已到了最危险的时候，一触即发而造成出血的结果。

而神经有可能出现的疾病就是神经痛，例如三叉神经痛、枕神经痛、肋间神经痛和坐骨神经痛等等，根据一些医书的解释是由於某些部位的神经受到压迫，例如：肌肉的过份紧张收缩和骨的移位而令某些神经受到过大的压力而痛，又或者由於颈椎、腰椎、脊椎变形、又或者由於肿痛等原因而导致神经痛，而引起这些病的根本原因通常是由於长期身体处於高度的精神紧张、饮食不健康、长期缺乏运动，而长期累积太多有害物质又排不出体外，加上工作的压力就很容易令身体去到危险程度。

希望大家能够提醒自己，用聪明的方法消除精神和身体的疲劳，同时要让身体摄取各种营养素、维他命、氨基酸、矿物质等等，以及多做运动去消除精神上的压力，令坏胆固醇无法在身体囤积，同时听音乐或出去旅行，又或者种种花草、浸浸温泉、做做运动按摩和多做伸展运动和多在清新空气的地方做深呼吸，以达到最健康。

神经网络是什么？

生物神经网络主要是指人脑的神经网络，它是人工神经网络的技术原型。

人脑是人类思维的物质基础，思维的功能定位在大脑皮层，后者含有大约10^11个神经元，每个神经元又通过神经突触与大约103个其它神经元相连，形成一个高度复杂高度灵活的动态网络。

作为一门学科，生物神经网络主要研究人脑神经网络的结构、功能及其工作机制，意在探索人脑思维和智能活动的规律。

人工神经网络是生物神经网络在某种简化意义下的技术复现，作为一门学科，它的主要任务是根据生物神经网络的原理和实际应用的需要建造实用的人工神经网络模型，设计相应的学习算法，模拟人脑的某种智能活动，然后在技术上实现出来用以解决实际问题。

因此，生物神经网络主要研究智能的机理；人工神经网络主要研究智能机理的实现，两者相辅相成。

什么叫神经网络？

南搞小孩给出基本的概念:一.一些基本常识和原理[什么叫神经网络?]人的思维有逻辑性和直观性两种不同的基本方式。

逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。

然而，直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。

这种思维方式的根本之点在于以下两点:1.信息是通过神经元上的兴奋模式分布储在网络上;2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。人工神经网络就是模拟人思维的第二种方式。

这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。

[人工神经网络的工作原理]人工神经网络首先要以一定的学习准则进行学习，然后才能工作。

现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。

所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。

首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。

在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。

如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。

如此操作调整，当给网络轮番输入若干个手写字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。

这说明网络对这两个模式的学习已经获得了成功，它已将这两个模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。

一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多。

南搞小孩一个小程序:关于一个神经网络模拟程序的下载人工神经网络实验系统(BP网络)V1.0Beta作者:沈琦作者关于此程序的说明:从输出结果可以看到，前3条"学习"指令，使"输出"神经元收敛到了值0.515974。

而后3条"学习"指令，其收敛到了值0.520051。再看看处理4和11的指令结果P*Out1:0.520051看到了吗？"大脑"识别出了4和11是属于第二类的！

怎么样?很神奇吧?再打show指令看看吧!"神经网络"已经形成了!你可以自己任意的设"模式"让这个"大脑"学习分辩哦!只要样本数据量充分(可含有误差的样本)，如果能够在out数据上收敛地话，那它就能分辨地很准哦!有时不是绝对精确，因为它具有"模糊处理"的特性.看Process输出的值接近哪个Learning的值就是"大脑"作出的"模糊性"判别!南搞小孩神经网络研究社区:人工神经网络论坛(旧版,枫舞推荐)国际神经网络学会(INNS)(英文)欧洲神经网络学会(ENNS)(英文)亚太神经网络学会(APNNA)(英文)日本神经网络学会(JNNS)(日文)国际电气工程师协会神经网络分会研学论坛神经网络;sty=1&age=0人工智能研究者俱乐部2nsoft人工神经网络中文站=南搞小孩推荐部分书籍:人工神经网络技术入门讲稿(PDF)神经网络FAQ(英文)数字神经网络系统(电子图书)神经网络导论(英文)=南搞小孩还找到一份很有参考价值的讲座是Powerpoint文件，比较大，如果网速不够最好用鼠标右键下载另存.南搞小孩添言:很久之前，枫舞梦想智能机器人从自己手中诞生,SO在学专业的时候也有往这方面发展...考研的时候亦是朝着人工智能的方向发展..但是很不幸的是枫舞考研失败只好放弃这个美好的愿望,为生活奔波.希望你能够成为一个好的智能计算机工程师..枫舞已经努力的在给你提供条件资源哦~~。

BP神经网络原理

人工神经网络有很多模型，但是日前应用最广、基本思想最直观、最容易被理解的是多层前馈神经网络及误差逆传播学习算法（ErrorBack-Prooaeation），简称为BP网络。

在1986年以Rumelhart和McCelland为首的科学家出版的《ParallelDistributedProcessing》一书中，完整地提出了误差逆传播学习算法，并被广泛接受。

多层感知网络是一种具有三层或三层以上的阶层型神经网络。

典型的多层感知网络是三层、前馈的阶层网络（图4.1），即：输入层、隐含层（也称中间层）、输出层，具体如下：图4.1三层BP网络结构（1）输入层输入层是网络与外部交互的接口。

一般输入层只是输入矢量的存储层，它并不对输入矢量作任何加工和处理。输入层的神经元数目可以根据需要求解的问题和数据表示的方式来确定。

一般而言，如果输入矢量为图像，则输入层的神经元数目可以为图像的像素数，也可以是经过处理后的图像特征数。

（2）隐含层1989年，RobertHechtNielsno证明了对于任何在闭区间内的一个连续函数都可以用一个隐层的BP网络来逼近，因而一个三层的BP网络可以完成任意的n维到m维的映射。

增加隐含层数虽然可以更进一步的降低误差、提高精度，但是也使网络复杂化，从而增加了网络权值的训练时间。

误差精度的提高也可以通过增加隐含层中的神经元数目来实现，其训练效果也比增加隐含层数更容易观察和调整，所以一般情况应优先考虑增加隐含层的神经元个数，再根据具体情况选择合适的隐含层数。

（3）输出层输出层输出网络训练的结果矢量，输出矢量的维数应根据具体的应用要求来设计，在设计时，应尽可能减少系统的规模，使系统的复杂性减少。

如果网络用作识别器，则识别的类别神经元接近1，而其它神经元输出接近0。

以上三层网络的相邻层之间的各神经元实现全连接，即下一层的每一个神经元与上一层的每个神经元都实现全连接，而且每层各神经元之间无连接，连接强度构成网络的权值矩阵W。

BP网络是以一种有教师示教的方式进行学习的。首先由教师对每一种输入模式设定一个期望输出值。然后对网络输入实际的学习记忆模式，并由输入层经中间层向输出层传播（称为“模式顺传播”）。

实际输出与期望输出的差即是误差。按照误差平方最小这一规则，由输出层往中间层逐层修正连接权值，此过程称为“误差逆传播”（陈正昌，2005）。

所以误差逆传播神经网络也简称BP（BackPropagation）网。随着“模式顺传播”和“误差逆传播”过程的交替反复进行。

网络的实际输出逐渐向各自所对应的期望输出逼近，网络对输入模式的响应的正确率也不断上升。通过此学习过程，确定下各层间的连接权值后。

典型三层BP神经网络学习及程序运行过程如下（标志渊，2006）：（1）首先，对各符号的形式及意义进行说明：网络输入向量Pk=（a1，a2，...，an）；网络目标向量Tk=（y1，y2，...，yn）；中间层单元输入向量Sk=（s1，s2，...，sp），输出向量Bk=（b1，b2，...，bp）；输出层单元输入向量Lk=（l1，l2，...，lq），输出向量Ck=（c1，c2，...，cq）；输入层至中间层的连接权wij，i=1，2，...，n，j=1，2，...p；中间层至输出层的连接权vjt，j=1，2，...，p，t=1，2，...，p；中间层各单元的输出阈值θj，j=1，2，...，p；输出层各单元的输出阈值γj，j=1，2，...，p；参数k=1，2，...，m。

（2）初始化。给每个连接权值wij、vjt、阈值θj与γj赋予区间（-1，1）内的随机值。（3）随机选取一组输入和目标样本提供给网络。

（4）用输入样本、连接权wij和阈值θj计算中间层各单元的输入sj，然后用sj通过传递函数计算中间层各单元的输出bj。

基坑降水工程的环境效应与评价方法bj=f（sj）j=1，2，...，p（4.5）（5）利用中间层的输出bj、连接权vjt和阈值γt计算输出层各单元的输出Lt，然后通过传递函数计算输出层各单元的响应Ct。

基坑降水工程的环境效应与评价方法Ct=f（Lt）t=1，2，...，q（4.7）（6）利用网络目标向量，网络的实际输出Ct，计算输出层的各单元一般化误差。

基坑降水工程的环境效应与评价方法（7）利用连接权vjt、输出层的一般化误差dt和中间层的输出bj计算中间层各单元的一般化误差。

基坑降水工程的环境效应与评价方法（8）利用输出层各单元的一般化误差与中间层各单元的输出bj来修正连接权vjt和阈值γt。

基坑降水工程的环境效应与评价方法（9）利用中间层各单元的一般化误差，输入层各单元的输入Pk=（a1，a2，...，an）来修正连接权wij和阈值θj。

基坑降水工程的环境效应与评价方法（10）随机选取下一个学习样本向量提供给网络，返回到步骤（3），直到m个训练样本训练完毕。

（11）重新从m个学习样本中随机选取一组输入和目标样本，返回步骤（3），直到网路全局误差E小于预先设定的一个极小值，即网络收敛。如果学习次数大于预先设定的值，网络就无法收敛。（12）学习结束。

可以看出，在以上学习步骤中，（8）、（9）步为网络误差的“逆传播过程”，（10）、（11）步则用于完成训练和收敛过程。通常，经过训练的网络还应该进行性能测试。

测试的方法就是选择测试样本向量，将其提供给网络，检验网络对其分类的正确性。测试样本向量中应该包含今后网络应用过程中可能遇到的主要典型模式（宋大奇，2006）。

这些样本可以直接测取得到，也可以通过仿真得到，在样本数据较少或者较难得到时，也可以通过对学习样本加上适当的噪声或按照一定规则插值得到。

为了更好地验证网络的泛化能力，一个良好的测试样本集中不应该包含和学习样本完全相同的模式（董军，2007）。