浅析基于连接主义的AI及类脑计算

   人工智能的主要学派有连接主义、符号主义、行为主义，还有贝叶斯方法和类推学派。

image.png

图1 ：人工智能学派
   下面专门说说连接主义学派在AI上的发展情况。连接主义的AI属于是一种仿生学，用人工神经网络来模拟生物神经网络的运行模式实现学习功能。在实现方法中，有以计算为核心的冯·诺依曼计算结构构成的传统计算机和以数据为中心的类脑计算结构计算机两种方法。前者模拟人脑运行功能主要是在软件中实现的，传统计算机提供算力。软件的算法模拟了人工神经网络结构，是一种数字化人工神经网络。类脑计算中则元器件就直接模拟神经元的计算功能已经突触的传输功能。直接在硬件上模拟神经网络。根据使用器件类型，人工神经网络ANN大致可以分为两种，一种是基于硅基电子器件的神经网络。另外一种是基于光学器件实现的光学神经网络。
   ANN最基本的单元是人工神经元，包括多个输入数据，输入的权重，然后对输入做加权求和，最后通过一个非线性的激活函数实现阈值输出。这也是人工神经元进行的对信息的处理工作。

image.png

图2 ：人工神经元
   深度学习网络是ANN中发展的逻辑递进，基本结构为输入层➢隐藏层➢输出层三个功能模块。一个单层输入层；多层稀疏连接的隐藏层；还有一个全连接的单层的输出层做分类或者回归任务。

   人工神经元之间的连接方式已经输入的权值形成了某种结构，是一种间接模型（回归、SVM等为直接模型），等效于某个多层的复合函数的功能，而这个嵌套的复合函数的每一个层的对应法则都是模型学习到的数据集的一个“特征”。
   对于类脑计算设备，其硬件系统需要由加权求和结果进行非线性映射实现阈值输出的人工神经元和负责输出信息传输的人工突触连接成网状结构实现。人工神经元（处理信息）⟾人工突触（连接神经元、数据传输）➳网络层（计算、池化）➳功能模块（输入层、隐藏层、输出层）⟾深度人工神经网络（并行运算网络）。用硬件搭建这样的一个系统，可以是硅基电子元件形成的电子神经网络，也可以是光学元件构造的光子神经网络。突触由前突触、间隔和后突触构成，其长时程可塑性被认为是人脑学习和记忆的基础，突触权值变化方向和大小是前突触神经元和后突触神经元的动作激发时间差实现的。人工突触也模拟这个过程调节权重，组成的阵列实现自行学习能力，找出数据背后的规律。
   对于光子神经网络，这个过程主要是在光学器件中通过光的干涉、反射、衍射等方法实现的。如可使用微型圆形波导实现，神经元节点的相应特征通过纳米刻蚀的方法嵌入硅基底里。 当输入入射光信号时，该系统会对在阈值处工作的硅基电子器件构成的激光器的输出进行调制。在这个阈值附近，入射信号的微小参数变化都会对输出信号产生显著影响波分复用技术通过在系统中的节点处使用一种特定 波长的光来实现。系统的非线性特征通过一个反馈电路实现。 另外一类光学神经网络是基于衍射光学的构架 ，利用误差反向传播法对衍射神经网络进行训练。
   对于神经芯片构成的人工神经网络，其计算和存储都在神经芯片中，其效能取决于人工神经元的计算能力和人工突触的数据传输效能。计算速度很大程度上取决于“人工突触”的传输速度。忆阻器（记忆+电阻）是一种具有电荷记忆功能的非线性电阻，其功能类似突触，可以进行矩阵运算。所以，提升忆阻器在附加磁场影响下传递信息，会极大地影响了整个神经芯片及其构成的人工神经计算机的效率。