神经网络计算机硬件,人工神经网络的硬件设计研究

摘 要:本文结合当前计算机智能化领域的发展情况,提出了在新的智能计算硬件平台上进行神经网络的计算,并以Gerstner的尖峰神经元模型为基础设计出硬件电路,以加快神经网络的计算能力。

关键词:人工神经网络;尖峰神经元模型

近年来,人们在计算机智能化领域上取得了很大的进步,但计算机领域还有很多问题无法解决,例如视觉、语言识别和计算机等技术,人们仍不能将计算机系统设计得像生物系统那样灵活。因此,大批研究者转移到仿生科学研究,希望由此找到新的技术,设计出新的智能计算机,其中人工神经网络是其中一个比较热门的领域。随着这个领域的发展,一些团队已经建立起一些创造性的、复杂的神经电路模型,并将其应用到一些项目中,也有研究团队在致力研究人工神经网络的软件和硬件方案,希望能够为智能计算机提供更高层次的理解能力。

人工神经网络模型的并行特性使它与传统的计算机模型相比具有更强的理能力,使它更有机会解决如手写文字识别这类问题。长期以来,大多数研究者都是在CPU上使用模拟的方式进行神经网络的计算,由于CPU工作模式和结构的限制,无法提供最佳的计算性能,因此本文寻求一种新的智能计算硬件平台,在硅芯片上设计神经网络电路。

一、神经网络模型

人工神经网络理论已发展了很多年,并日益趋于成熟,在各领域都得到了一定的应用。人工神经网络的运算主要由计算的基本单位神经元进行,通过若干个神经元构成神经网络以解决现实中的各种问题。

如图1所示,一组神经元构成一个神经网络系统。每一个神经元都有独立的计算单元。神经元计算公式如下:yi(t)=■W■?着ij(t-tij) (1)

公式(1)中yi(t)表示神经元的输出结果,i表示神经元序号,?着ij(t-tij)表示神经元输入值,W■表示每个神经元的权值。

人工神经网络的基本运算包括了乘法和加法运算。为了能够在硬件上执行神经网络的理功能,必须为每个神经元设计独立的加法器和乘法器,我们将其称为加乘法运算单元(MAC),每个神经元都包含了一个MAC单元。

为了使系统能够更好地模拟人类神经系统工作原理,发挥硬件的理能力,本文采用了Gerstner的尖峰神经元模型构建神经元理器的工作流程。在该模型中,每个神经元的膜电位在时间t时表示如下:

ui(t)=■■■W■?着ij(t-tij)+?浊i(t-tij) (2)

?着ij(t)=exp(-■)-exp(-■)*H(t-t■) (3)

公式(2)中,W■表示为第i神经元和第j神经元之间连接的权值,?着ij(t-tij)表示为神经元i能够提供给神经元j的突触后电位(PSP),而?浊i(t-tij)表示倔强函数。公式(3)表示突触后电位(PSP)的计算方法,其中t■和t■为时间常数,H(t-t■) 为Heaviside阶梯函数,t■为轴突传输延时系数。

二、神经元硬件设计

如图2所示,神经网络系统是由多个神经元构成,每个神经元是一个单独的实体,神经元既相互独立,又相互联系,神经元根据所受到外界的刺激(输入)和邻居神经元对自己的影响,做出判断与决策(输出),并影响到周围神经元的反应。为了能够实现神经网络功能,需要模拟神经元单位设计一个特殊的理器用于计算外界刺激而做出的反应,它包含了简单的算数逻辑运算单元、寄存器和控制器,在本文中使用PN表示该理器。

图3显示了一个PN理单元的工作流程图,每个PN理器包括了进行神经元计算必须的运算器和存储器以及相关附属器件。PN理单元的工作流程是:当外部有输入数据通过总线进入PN理器时先存放在输入事件存储器;系统根据事件时间将数据输入到突触后电势寄存器;同时输入值被编号后分别放入公共连接存储器;突触后电势PSP值与其他神经元的权值相乘后与原有膜电位值相加,相加结果更新膜电位存储器值;同时结果与阈值相比较,如果大于阈值则将结果输出到输出存储器中作为该神经元的输出结果存放在输出时间存储器。

系统是由若干个神经元理器构成。如图4所示,人工神经网络系统由若干个神经元共同构成,图5表示了人工神经网络的硬件构成。每一个人工神经网络都是由若干个神经元理单元构成,每个神经元理单元又是由逻辑运算器、存储器和通信单元构成。将这些神经元理器构建在一块电路板或者芯片上,同时理器与理器通过总线连接起来相互通信,共同完成神经网络的运算。系统还为每一个神经元单位配置了一个PN理器,理器之间相互独立,并行计算。当外部刺激(输入)进入系统时,立刻被分配到各个PN理器并行计算神经元对刺激的响应(输出),同时根据计算结果,调整神经元之间的权值系数,并更新存储其中的权值。由于PN理器是并行计算,相对于传统计算机模拟运算,极大地提高了神经网络的计算速度。

本文以Gerstner的尖峰神经元模型为基础,设计了模拟神经元工作的PN理单元,并由若干个PN理单元构成模拟人类神经系统的人工神经网络的硬件系统。相对于在传统计算机上的操作,PN理单元的并行性使新系统有更强的理能力,有效地提高了神经网络的计算速度,使神经网络系统有更好的应用前景。

(作者单位:广东肇庆科技职业技术学院)

参考文献:

[1]Gerstner,W. & Kistler,W.M.Spiking neuron models:single neurons,populations,plasticity. Cambridge,UK:Cambridge University Press,2002.

[2]Mazad S. Zaveri. Dan Hammerstrom1. Performance/price estimates for cortex-scale hardware: A design space exploration,2011,(24).

[3]徐明华,甘强.脉冲神经网络的振荡与分割[J].生物物理学报,1997,(1).

[4]夏克文.神经网络设计及其电路实现[J].石油仪器,1994,(3).

[5]黄远灿,孙圣和,韩京清.基于Lagrange乘子法的非线性规划神经网络[J].电子学报,1998,(1).

你可能感兴趣的:(神经网络计算机硬件)