SNN介绍-来自脉冲神经网络原理

    神经科学的一些实验证据表明,视觉与听觉等许多生物神经系统都采用神经元发放的动作电位(即脉冲)的时间来编码信息。针对这些问题,更加符合生物神经系统实际情况的第三代人工神经网络模型--脉冲神经网络应运而生。脉冲神经网络使用时间编码的方式进行信息传递与处理,直接利用神经元的脉冲发放时间作为网络模型的输入与输出,从而实现信息的高效处理。

    脉冲神经网络的拓扑结构分为前馈型脉冲神经网络,递归型脉冲神经网络和混合型脉冲神经网络,我们在这里只简要介绍前馈型脉冲神经网络,对于他的模型有大致的了解。神经元的样式这里不再介绍,可能读者在其他很多文章都有见过。在多层前馈脉冲神经网络中,网络中的神经元是分层排列的,每个神经元只与前一层的神经元相连接。和CNN类似,也分为输入层,中间层(隐含层,多个),输出层。输入层各神经元的脉冲序列表示对具体问题输入数据的编码,并将其输入脉冲神经网络的下一层。最后一层为输出层,该层各神经元输出的脉冲序列构成构成网络的输出。如下图所示:

SNN介绍-来自脉冲神经网络原理_第1张图片

    接下来介绍脉冲神经网络当中单个神经元的数学模型,模拟单个神经元的发放电情况。生物神经元的离子是传递电信号的重要媒介,电信号的产生是由于细胞膜两侧的离子发生流动而形成了浓度差,从而导致细胞膜内外电位差,通过研究神经元膜电位和离子电导变化的关系,给出了描述神经元兴奋的微分方程组。由此产生的生物可解释性的生理模型包括(具体的等效电路图和推导可自行详细了解): Hodgkin-Huxley神经元模型,Morris-Lecar神经元模型,FitzHugh-Nagumo神经元模型,Hindmarsh-Rose神经元模型,Izhikevich神经元模型,Integrate-and-Fire神经元模型等。其中HH模型精确度高,但运算量大。LIF模型运算量小,但牺牲了精确度。Izhikevich模型结合了两者的优势,生物精确性接近HH模型,运算复杂度接近LIF模型。

Izhikevich给出了如下所示的而为脉冲神经元模型:

SNN介绍-来自脉冲神经网络原理_第2张图片

 如果神经元的膜电位V >= 30mV, 辅助的复位机制为:

    式中,V表示膜电位, U表示恢复变量 ,用来代替生理模型中激活的K+电流和失活的Na+电流,实现对膜电位V的负反馈。

    Izhikevich神经元模型中的参数a,b,c,d是无量纲参数,随着a,b,c,d取值的变化,神经元模型可以表现出丰富的脉冲发放模式, 参数a表示恢复变量U的时间尺度,a的值越小,表示恢复得越慢;参数b表示恢复变量U依赖于膜电位V得阈值下随机波动得敏感程度,参数c表示神经元发放脉冲后膜电位V得复位值;参数d表示神经元发放脉冲后,恢复变量U的复位值。各个参数的意义如下图:

SNN介绍-来自脉冲神经网络原理_第3张图片

     选取合适的神经元模型后,再参考人的识别流程图,即可组建自己的模型进行具体的图片识别或者分类操作。

参考:

1.脉冲神经网络原理

2.最后一张各参数意义的图来自:SNN系列|神经元模型篇(2) Izhikevich_Tianlong Lee的博客-CSDN博客_izhikevich模型

你可能感兴趣的:(snn系列,神经网络)