人工神经元模型(笔记)

神经元模型

 人工神经网络的基本成分是人工神经元,将许多个这样的神经元按一定层次连接起来,就得到神经网络。

在这个模型中,神经元接收到来自m个其他神经元传递过来的输入信号,这些输入信号通过带权重的连接进行传递,神经元接收到的总输入值将与神经元的阈值进行比较,然后通过激活函数处理以产生神经元的输出。

人工神经元模型(笔记)_第1张图片

 人工神经元模型可以看成是由3种元素组成:

  1. 一组连接                                   连接强度由各连接上的权值决定
  2. 一个信号线性组合器                 求输入信号对神经元的的相应突触加权的和。
  3. 一个激活函数                            用来限制神经元输出振幅(可以给神经元加一个外部偏置$$ b_k $$,偏置的作用是根据其为正或者负,相应的增加或者减少激活函数的输入值)

 第 $$ k $$ 个人工神经元可以用公式表示:

$$ u_k=\sum_{i=1}^m{w_i}x_i $$     

$$ y_k=f\left( u_k+b_k \right) $$

其中 

 $$ x_i\,\,\left( i=\text{1,}\cdot \cdot \cdot ,m \right) $$    是来自第i个神经元的输入

$$ w_i\,\,\left( i=\text{1,}\cdot \cdot \cdot ,m \right) $$    是突触权值

$$ u_k $$  信号线性组合器的输出

$$ b_k $$  神经元的偏置

$$ f\left( \cdot \right) $$   激活函数

 典型的激活函数sigmoid(x):

理想的激活函数是激活函数,它将输入值映射为输出值0或者1,0对应神经元抑制,1对应神经元兴奋。

sigmoid函数把可能在较大范围内变化的输入值挤到(0,1)输出值范围内,因此也称挤压函数。

                                                                       $$ sigmoid\left( x \right) =\frac{1}{1+e^{-x}} $$

人工神经元模型(笔记)_第2张图片

 参考资料

 1.《机器学习》周志华

2.《神经网络实用教程》张良均

 

参考资料已注明出处,如有侵权联系删除。

你可能感兴趣的:(神经网络基础)