神经网络基础——神经元模型

• 机器学习——机器学习是指计算机自动获取新的事实及新的推理算法等，是计算机具有智能的根本途径。
• 监督学习——外部教师——通过范例学习产生期待结果——基于误差正——关于网络权值输出误差最小化
• 生物基础：
  
  1. 神经元是人脑信息处理系统的最小单元，大脑处理信息的结果是由各个神经元状态的整体效果确定的。
  2. 生物神经网络中各个神经元综合接收到的多个激励信号呈现出兴奋或抑制状态，神经元之间连接强度根据外部激励信息作自适应变化。
     
     

  3. 树突是信号的输入端，突触是输入/输出接口，细胞体则相当于一个微型处理器，它对各种信号进行整合，并在一定条件下触发，产生输出信号。输出信号沿轴突传至神经末梢，并通过突触传向其他神经元的树突。

• 神经元数学模型——M-P模型
• 假设条件：
  
  1.  每个神经元都是一个多输入单输出的信息处理单元
  2. 神经元输入分为兴奋性输入和抑制性输入两种类型
• M-P模型结构是一个多输入、单输出的非线性元件。
  
  
  

  功能：将得到的输入向量与输入权重的内积加上偏置的和通过非线性的激励函数，得到一个标量的输出响应。

  1. 加权
     对于M-P模型来说，x的取值为0或1。加权系数，其正负模拟了生物神经元中突触的兴奋或抑制，其大小则代表了突触的不同连接强度。
  2. 求和
     求和相当于生物神经元的膜电位，实现了对全部输入信号的空间整合。只有当其输入总和超过阈值时，神经元才能激活而发放脉冲，否则神经元不会产生输出信号。b实现了阈值电平的模拟。
  3. 激励（转移）
     激励函数表征了输出与输入之间的对应关系，一般而言这种激励函数都是非线性函数。对于M-P模型而言，神经元只有兴奋和抑制两种状态，神经元信号输出只有0、1两种状态，因此激励函数应为单项阈值函数。
• M-P假设未考虑
  
  1. 时间整合作用
  2. 突触传递的不应期
  3. 加权系数在0-1范围内连续可变
• M-P与其他神经元数学模型的区别
  其他的一些神经元的数学模型主要区别在于采用了不同的激励函数，这些函数反映了神经元输出与其激活状态之间的关系，不同的关系使得神经元具有不同的信息处理特性。激励函数具有的显著特性是突变性和饱和性。利用它可模拟神经细胞兴奋过程所产生的神经冲动以及疲劳等特性。
• 常见的激励函数