脉冲神经网络(SNN-SpikingNeuronNetworks)经常被誉为第三代人工神经网络。第一代神经网络是感知器,它是一个简单的神经元模型并且只能处理二进制数据。
第二代神经网络包括比较广泛,包括应用较多的BP神经网络。但是从本质来讲,这些神经网络都是基于神经脉冲的频率进行编码(ratecoded)。
脉冲神经网络,其模拟神经元更加接近实际,除此之外,把时间信息的影响也考虑其中。
思路是这样的,动态神经网络中的神经元不是在每一次迭代传播中都被激活(而在典型的多层感知机网络中却是),而是在它的膜电位达到某一个特定值才被激活。
当一个神经元被激活,它会产生一个信号传递给其他神经元,提高或降低其膜电位。
在脉冲神经网络中,神经元的当前激活水平(被建模成某种微分方程)通常被认为是当前状态,一个输入脉冲会使当前这个值升高,持续一段时间,然后逐渐衰退。
出现了很多编码方式把这些输出脉冲序列解释为一个实际的数字,这些编码方式会同时考虑到脉冲频率和脉冲间隔时间。借助于神经科学的研究,人们可以精确的建立基于脉冲产生时间神经网络模型。
这种新型的神经网络采用脉冲编码(spikecoding),通过获得脉冲发生的精确时间,这种新型的神经网络可以进行获得更多的信息和更强的计算能力。
谷歌人工智能写作项目:神经网络伪原创
脉冲神经网络大体上可以和传统的人工神经网络一样被用在信息处理中,而且脉冲神经网络可以对一个虚拟昆虫寻找食物的问题建模,而不需要环境的先验知识好文案。
并且,由于它更加接近现实的性能,使它可以用来学习生物神经系统的工作,电生理学的脉冲和脉冲神经网络在电脑上的模拟输出相比,决定了拓扑学和生物神经学的假说的可能性。
在实践中脉冲神经网络和已被证明的理论之间还存在一个主要的不同点。
脉冲神经网络已被证明在神经科学系统中有作用,而在工程学中还无建树,一些大规模的神经网络已经被审计来利用脉冲神经网络中发现的脉冲编码,这些网络根据储备池计算的原则,但是现实中,大规模的脉冲神经网络计算由于所需计算资源多而产能小被限制了,造成了只有很少的大规模脉冲神经网络被用来解决复杂的计算问题,而这些之前都是由第二代神经网络解决的。
第二代神经网络模型中难以加入时间,脉冲神经网络(特备当算法定义为离散时间时)相当容易观察其动力学特征。我们很难建立一个具有稳定行为的模型来实现一个特定功能。
AlanLloydHodgkin和AndrewHuxley在1952年提出了第一个脉冲神经网络模型,这个模型描述了动作电位是怎样产生并传播的。
但是,脉冲并不是在神经元之间直接传播的,它需要在突触间隙间交换一种叫“神经递质”的化学物质。这种生物体的复杂性和可变性导致了许多不同的神经元模型。
从信息论的观点来看,找到一种可以解释脉冲,也就是动作电位的模型是个问题。所以,神经科学的一个基本问题就是确定神经元是否通过时间编码来交流。时间编码表明单一的神经元可以取代上百个S型隐藏层节点。
度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构,通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。
深度学习的概念由Hinton等人于2006年提出,基于深信度网(DBN)提出非监督贪心逐层训练算法,为解决深层结构相关的优化难题带来希望,随后提出多层自动编码器深层结构。
深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。
系统地论述了神经网络的基本原理、方法、技术和应用,主要内容包括:神经信息处理的基本原理、感知器、反向传播网络、自组织网络、递归网络、径向基函数网络、核函数方法、神经网络集成、模糊神经网络、概率神经网络、脉冲耦合神经网络、神经场理论、神经元集群以及神经计算机。
每章末附有习题,书末附有详细的参考文献。神经网络是通过对人脑或生物神经网络的抽象和建模,研究非程序的、适应性的、大脑风格的信息处理的本质和能力。
它以脑科学和认知神经科学的研究成果为基础,拓展智能信息处理的方法,为解决复杂问题和智能控制提供有效的途径,是智能科学和计算智能的重要部分。
第一,并没有太多的创新性。且不说国际上早有‘SNN(spikingneuralnetwork)’芯片,仅在国内,是不是国内首例都不好说,据我所知,清华也有课题组在做类似的芯片。
第二,在功能上没有大的突破。看浙大官方的新闻,该芯片“实现”的功能是“手写数字的识别和脑电波的解码”。业内人士应该都知道,这两项功能是机器学习领域已经玩儿烂的了,和SNN几乎没有一毛钱的关系。
第三,在算法上没有大的突破。具体的算法没有报道,但新闻上说,“最多可支持2048个神经元、400多万个神经突触及15个不同的突触延迟。
”我一看这神经元和突触比例吓一跳,原来是做了一个全连接的网络啊……并没有什么真实神经网络的算法引进。
而在制作工艺上,本研究采用传统的CMOS工艺,显然和IBM的研究不在一个时代(TrueNorth芯片里的神经元是百万级的)。
近日,清华大学类脑计算研究中心施路平教授团队展示了一辆自动驾驶自行车。这不是全球第一辆自动驾驶自行车。但它配备了一种人工智能芯片——神经形态计算机芯片——它可能是最接近于独立思考的机器。
该芯片是面向人工通用智能的世界首款异构融合类脑计算芯片,由清华大学依托精密仪器系的类脑计算研究中心的施路平教授团队研发,是世界上首个既支持脉冲神经网络又支持人工神经网路的人工智能芯片。
基于此研究成果的论文"面向人工通用智能的异构天机芯片架构"(TowardsartificialgeneralintelligencewithhybridTianjicchiparchitecture)作为封面文章登上了8月1日《自然》(Nature)杂志。
据了解,当前人工智能芯片主流研究方向可概括为深度学习加速器(支持人工神经网络)和类脑芯片(主要支持脉冲神经网络)。
但是由于算法和模型的差别,当前人工智能芯片均只支持人工神经网络或者脉冲神经网络,难以发挥计算机学科和神经科学这两个领域的学科交叉优势。
而"天机芯"是世界首款异构融合类脑芯片,也是世界上第一个既可支持脉冲神经网络又可支持人工神经网络的人工智能芯片。
pcnn比起convolutionalneuralnetwork,还是稍稍像点cellularneuralnetowork。结构上看起来总觉得更像是一个胞元自动机。
ConvolutionalNeuralNetwork和PCNN一点关系都没有,纯粹是靠重复卷积-池化来提取深度特征最后用softmax分类而已。