神经形态网络——大脑神经图论文阅读笔记【1】

• 这个故事始于 文章 ”Learning function from structure in neuromorphic
  networks“

\quad\quad 首先我们把摘要的翻译【谷歌】贴在这里：
大脑中神经回路的连接模式形成了一个复杂的网络。网络内的集体信号表现为模式化的神经活动，被认为支持人类认知和适应性行为。最近的技术进步允许对生物大脑网络进行宏观重建。这些被称为连接组的地图显示了多个非随机的结构特征，包括重尾度分布、隔离的社区和密集互连的核心。然而，计算和功能专业化如何从网络架构中出现仍然未知。在这里，我们使用体内扩散加权成像重建人脑连接组，并使用储层计算将连接组实现为人工神经网络。然后我们训练这些神经形态网络来学习记忆编码任务。我们表明，生物学上真实的神经架构在显示关键动态时表现最佳。我们发现性能是由网络拓扑驱动的，并且内在网络的模块化组织在计算上是相关的。我们观察到网络结构和动态之间的显着相互作用，因此相同的底层架构可以支持广泛的内存容量值以及不同的功能（编码或解码），这取决于网络所处的动态机制。这项工作为发现大脑的网络组织如何优化认知能力开辟了新的机会。
\quad\quad 好的确定了，变成中文也看不懂.jpg。是故下述记录就是为了看懂这篇文章进行的额外资料查找记录。

一.拓扑基本

1.基础定义

很明显，拓扑理论是看懂这篇文章的一个基础。拓扑感觉是个蛮秃头的概念，比如著名的杯子甜甜圈动画：

• 定义白话化简版【1】：有一集合X，从X中选取任意数量的子集，子集的交集【不可无限多】，并集【可无限多】与空集，X本身组成集合B。集合B是集合X的一个拓扑，A与X共同构成了一个拓扑空间，而B中的元素，就是这个拓扑空间的一个开集。具体可见参考材料【1】
• 拓扑空间定义【2】：
  拓扑空间（X，τ）的数学对象集合是 X，空间拓扑是 τ，τ 包含 X 的一系列子集，满足下列条件：
  1. X 和空集包含在 τ 中。
  2. τ 中集合的任何并集也在 τ 中。
  3. τ 中集合的任何有限交集也都在 τ 中。
• 橡皮泥游戏【3】：
  假如一个三维物体A由橡皮泥制作，那么在满足以下两点条件时：
  1.不允许在橡皮泥上打洞
  2.不允许将橡皮泥上的两点捏合在一起（我们没法将球形的橡皮泥做成甜甜圈的形状）
  捏橡皮泥改变物体的形状，获得的物体B与A在拓扑上等价。
• 镜中人
  克莱因瓶和莫比乌斯环都具有一个特性：沿一条连续的路径走，可以最终回到初始点，但回来的是你的镜像。一些鬼故事感觉突然就科学了起来…

二. 大脑神经网络拓扑特性

主要聚焦于一些看不懂的名词

1.富人俱乐部 rich club【3】

即有钱人更乐意和有钱人玩[bushi]。神经网络中每个网络的度[连接数]不同，这其中挑出一些输入链接和输出链接尤其多的神经元，作为社交达人。研究人员发现，“社交达人”们更喜欢跟其他的“社交达人”接触，“达人”们之间的连接数是“达人”与“吃瓜群众”之间连接数的 1.4 倍。这种现象叫做“富人俱乐部”。

2.小世界 small world【3】

“小世界”特性，指一个网络有较低的最短路径长度L§（shortest path length）以及较高的集聚系数C§（clustering coefficient）。在社交网络中，这种网络属性意味着一些彼此并不相识的人，可以通过一条很短的熟人链条被联系在一起【6】
最短路径长度是指一个点到另一个点平均需要经过几个点，集聚系数是一个点的邻接点之间相互连接的程度。比如这张图，每个节点基本都能通过小于等于三次链接到达任意节点。

三. 脑神经网络重建相关研究

1.线虫【4】

• 文章：Whole-animal connectomes of both Caenorhabditis elegans sexes
• 链接：https://www.nature.com/articles/s41586-019-1352-7
• 杂志：nature封面 2019
• 选择秀丽隐杆线虫【Caenorhabditis elegans，C. elegans】作为研究对象。秀丽隐杆线虫是第一个被完整测序的多细胞真核生物。成虫体长1-2毫米左右，身体半透明，在20℃的实验室条件下，线虫的世代周期为3天，平均寿命约3周左右【7】。在其近2万个蛋白编码基因中，有60-80% 与人类基因同源，细胞凋亡、RNAi 和 microRNA 等生命现象和机制都是首先在线虫中被阐明的，相关研究多次获得诺贝尔奖项。
  
  这种线虫有雄性和雌雄同体两种性别，文章中分别对两种性别的神经网络进行了绘制。雌雄同体成虫有959个体细胞【302个神经元】；雄成虫有1031个体细胞【385个神经元】
• 研究方法
  \quad 通过EM系列显微镜添加头部重建信息，由于EM系列都没有覆盖整个动物，为了生成整个动物连接体，将来自不同重建系列的数据合并，并通过跨重复区域推断已知的连接来填补剩余的空白。
• 分布特点
  \quad 雌雄同体连接体的图有460个节点（302个神经元，132个肌肉和26个非肌肉末端器官), 4887个有向边，1447个无向边。
  \quad 雄性图有579个节点(385个神经元，155个肌肉和39个非肌肉末端器官)，5215个有向边，1755个无向边 。
  \quad 该图谱较为稀疏，连边比例分别为3.2%，2.4%。另外间隙连接【无向】在不同类别神经元中占比差异很大。神经元的度【链接边】的中值为19，说明了广泛的交叉连通性。
• 主要神经束和神经节
  
  观察红色线路，可见主要区别在尾部：雄性尾巴中有大量的神经元和肌肉参与交配
• 性别差异图谱
  \quad 三角形是感官神经元；六边形是中间神经元；椭圆和圆是运动神经元；长方形是肌肉。
  每种形状，有不同的颜色，用来细分各类神经元：1>不同深浅的红色表示由连接方式和相似性定义的感觉神经元的类别；2>不同深浅的蓝色阴影表示根据神经元间对某一层的分配而划分的类；3>运动神经元为各种黄色和橙色；4>非肌肉末端器官是白色、灰色或黑色; 5>性别特异性神经元是粉红色或紫色的。最终分成了46种神经元。
  \quad 黑色箭头，代表化学突触，是有方向的；没有方向的红线，代表间隙连接 (或者叫电突触)。线条的宽度和透明度代表了边缘的权重。
  \quad 蠕虫图上的小椭圆代表细胞核，只画了左侧和中间的。
  \quad 顶点的布局是由一个聚类更重连接的细胞对的算法决定【强制聚类算法】
  
  
• 分层关系【个人主观意见】
  
  \quad 首先我们看这两张表，分别代表有向化学链接与无向物理链接提供的影响，In4类以缺乏间隙连接而闻名。将网络分为了一层感官【三角】，四层中间【六边】，三种运动【圆与椭圆——HMN，头部运动神经元；SMN，下外侧运动神经元；MNVC，腹索运动神经元】。
  \quad 观察放大的网络结构，可以看出中间三层是由蓝紫色——宝蓝色——蓝黑色【浅到深】的顺序。另外可从表中看出，中间层存在明显的前馈回路：层3基本上针对层2和层1，而层2针对层1。
  
  另外，性别特异性的神经元和肌肉类别用紫色的包围物表示。
• 肌肉控制
  \quad 接下来两张图是聚焦于肌肉控制与运动的。秀丽隐杆线虫在觅食和运动过程中的姿势运动由95块体壁肌肉产生，这些肌肉纵向排列，其中两个位于背下，另外两个位于腹下。46类神经元中有154个神经元与这些体细胞有神经肌肉连接。在这些神经元中，将108个大部分输出是肌肉的神经元作为运动神经元，并分为17类。这17类又可分为三组：5类头部运动神经元支配前体区域的肌肉(URA、RME、RMD、RIV和RMH)，7类腹脊髓运动神经元支配身体其余部分(VA、VA、VB、DB、DB、VD、DD和AS)和5类下外侧运动神经元(SAB、SMB、SMD、SMB、SIB和SIA)【也就是上面三个缩写】
• 局限性
  1>.下外侧运动神经元尚未被完全描述，因为它们的轴突穿过身体区域，这些区域尚未在高倍放大下完全成像。
  2>.每个个体之间的神经元连接也有一定的差异，但这种研究方式，一次只能研究一个个体，可迁移性欠佳。
• 结论与思考
  有关分层与权重排序有向图算法，见另一篇博客：还在写

2.果蝇【5】

• 文章：Automated Reconstruction of a Serial-Section EM Drosophila Brain
  with Flood-Filling Networks and Local Realignment
• 链接： https://www.biorxiv.org/content/early/2019/08/04/605634.full.pdf
• 杂志：谷歌博客文章
• 在线观看链接：https://bit.ly/2GKmDF2【链接被拒绝了可恶】
• 开源的工具：https://github.com/google/neuroglancer
• 该工作对作者个人来讲意义主要在工具上，关于工作细节可见参考【5】

待更

参考

【1】https://zhuanlan.zhihu.com/p/150120177
【2】https://zhuanlan.zhihu.com/p/214200642
【3】https://zhuanlan.zhihu.com/p/63122910
【4】https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw%3D%3D&idx=1&mid=2247524621&scene=21&sn=2eba372d0eab566c9499a250fec6a841#wechat_redirect
【5】https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw%3D%3D&idx=2&mid=2247526920&scene=21&sn=68e71fd5343603e165f3bf3e2e38d282#wechat_redirect
【6】https://zhuanlan.zhihu.com/p/141042297
【7】https://zhuanlan.zhihu.com/p/80274764