神经形态网络——大脑神经图论文阅读笔记【1】

  • 这个故事始于 文章 ”Learning function from structure in neuromorphic
    networks“

\quad\quad 首先我们把摘要的翻译【谷歌】贴在这里:
大脑中神经回路的连接模式形成了一个复杂的网络。网络内的集体信号表现为模式化的神经活动,被认为支持人类认知和适应性行为。最近的技术进步允许对生物大脑网络进行宏观重建。这些被称为连接组的地图显示了多个非随机的结构特征,包括重尾度分布、隔离的社区和密集互连的核心。然而,计算和功能专业化如何从网络架构中出现仍然未知。在这里,我们使用体内扩散加权成像重建人脑连接组,并使用储层计算将连接组实现为人工神经网络。然后我们训练这些神经形态网络来学习记忆编码任务。我们表明,生物学上真实的神经架构在显示关键动态时表现最佳。我们发现性能是由网络拓扑驱动的,并且内在网络的模块化组织在计算上是相关的。我们观察到网络结构和动态之间的显着相互作用,因此相同的底层架构可以支持广泛的内存容量值以及不同的功能(编码或解码),这取决于网络所处的动态机制。这项工作为发现大脑的网络组织如何优化认知能力开辟了新的机会。
\quad\quad 好的确定了,变成中文也看不懂.jpg。是故下述记录就是为了看懂这篇文章进行的额外资料查找记录。

一.拓扑基本

1.基础定义

很明显,拓扑理论是看懂这篇文章的一个基础。拓扑感觉是个蛮秃头的概念,比如著名的杯子甜甜圈动画:
神经形态网络——大脑神经图论文阅读笔记【1】_第1张图片

  • 定义白话化简版【1】:有一集合X,从X中选取任意数量的子集,子集的交集【不可无限多】,并集【可无限多】与空集,X本身组成集合B。集合B是集合X的一个拓扑,A与X共同构成了一个拓扑空间,而B中的元素,就是这个拓扑空间的一个开集。具体可见参考材料【1】
  • 拓扑空间定义【2】:
    拓扑空间(X,τ)的数学对象集合是 X,空间拓扑是 τ,τ 包含 X 的一系列子集,满足下列条件:
    1. X 和空集包含在 τ 中。
    2. τ 中集合的任何并集也在 τ 中。
    3. τ 中集合的任何有限交集也都在 τ 中。
  • 橡皮泥游戏【3】:
    假如一个三维物体A由橡皮泥制作,那么在满足以下两点条件时:
    1.不允许在橡皮泥上打洞
    2.不允许将橡皮泥上的两点捏合在一起(我们没法将球形的橡皮泥做成甜甜圈的形状)
    捏橡皮泥改变物体的形状,获得的物体B与A在拓扑上等价。
  • 镜中人
    克莱因瓶和莫比乌斯环都具有一个特性:沿一条连续的路径走,可以最终回到初始点,但回来的是你的镜像。一些鬼故事感觉突然就科学了起来…

二. 大脑神经网络拓扑特性

主要聚焦于一些看不懂的名词

1.富人俱乐部 rich club【3】

即有钱人更乐意和有钱人玩[bushi]。神经网络中每个网络的度[连接数]不同,这其中挑出一些输入链接和输出链接尤其多的神经元,作为社交达人。研究人员发现,“社交达人”们更喜欢跟其他的“社交达人”接触,“达人”们之间的连接数是“达人”与“吃瓜群众”之间连接数的 1.4 倍。这种现象叫做“富人俱乐部”。

2.小世界 small world【3】

“小世界”特性,指一个网络有较低的最短路径长度L§(shortest path length)以及较高的集聚系数C§(clustering coefficient)。在社交网络中,这种网络属性意味着一些彼此并不相识的人,可以通过一条很短的熟人链条被联系在一起【6】
最短路径长度是指一个点到另一个点平均需要经过几个点,集聚系数是一个点的邻接点之间相互连接的程度。比如这张图,每个节点基本都能通过小于等于三次链接到达任意节点。
神经形态网络——大脑神经图论文阅读笔记【1】_第2张图片

三. 脑神经网络重建相关研究

1.线虫【4】

  • 文章:Whole-animal connectomes of both Caenorhabditis elegans sexes
  • 链接:https://www.nature.com/articles/s41586-019-1352-7
  • 杂志:nature封面 2019
  • 选择秀丽隐杆线虫【Caenorhabditis elegans,C. elegans】作为研究对象。秀丽隐杆线虫是第一个被完整测序的多细胞真核生物。成虫体长1-2毫米左右,身体半透明,在20℃的实验室条件下,线虫的世代周期为3天,平均寿命约3周左右【7】。在其近2万个蛋白编码基因中,有60-80% 与人类基因同源,细胞凋亡、RNAi 和 microRNA 等生命现象和机制都是首先在线虫中被阐明的,相关研究多次获得诺贝尔奖项。
    神经形态网络——大脑神经图论文阅读笔记【1】_第3张图片
    这种线虫有雄性和雌雄同体两种性别,文章中分别对两种性别的神经网络进行了绘制。雌雄同体成虫有959个体细胞【302个神经元】;雄成虫有1031个体细胞【385个神经元】
  • 研究方法
    \quad 通过EM系列显微镜添加头部重建信息,由于EM系列都没有覆盖整个动物,为了生成整个动物连接体,将来自不同重建系列的数据合并,并通过跨重复区域推断已知的连接来填补剩余的空白。
  • 分布特点
    \quad 雌雄同体连接体的图有460个节点(302个神经元,132个肌肉和26个非肌肉末端器官), 4887个有向边,1447个无向边。
    \quad 雄性图有579个节点(385个神经元,155个肌肉和39个非肌肉末端器官),5215个有向边,1755个无向边 。
    \quad 该图谱较为稀疏,连边比例分别为3.2%,2.4%。另外间隙连接【无向】在不同类别神经元中占比差异很大。神经元的度【链接边】的中值为19,说明了广泛的交叉连通性。
  • 主要神经束和神经节
    神经形态网络——大脑神经图论文阅读笔记【1】_第4张图片
    观察红色线路,可见主要区别在尾部:雄性尾巴中有大量的神经元和肌肉参与交配
  • 性别差异图谱
    \quad 三角形是感官神经元;六边形是中间神经元;椭圆和圆是运动神经元;长方形是肌肉。
    每种形状,有不同的颜色,用来细分各类神经元:1>不同深浅的红色表示由连接方式和相似性定义的感觉神经元的类别;2>不同深浅的蓝色阴影表示根据神经元间对某一层的分配而划分的类;3>运动神经元为各种黄色和橙色;4>非肌肉末端器官是白色、灰色或黑色; 5>性别特异性神经元是粉红色或紫色的。最终分成了46种神经元。
    \quad 黑色箭头,代表化学突触,是有方向的;没有方向的红线,代表间隙连接 (或者叫电突触)。线条的宽度和透明度代表了边缘的权重。
    \quad 蠕虫图上的小椭圆代表细胞核,只画了左侧和中间的。
    \quad 顶点的布局是由一个聚类更重连接的细胞对的算法决定【强制聚类算法】
    神经形态网络——大脑神经图论文阅读笔记【1】_第5张图片
    神经形态网络——大脑神经图论文阅读笔记【1】_第6张图片
  • 分层关系【个人主观意见】
    神经形态网络——大脑神经图论文阅读笔记【1】_第7张图片
    \quad 首先我们看这两张表,分别代表有向化学链接与无向物理链接提供的影响,In4类以缺乏间隙连接而闻名。将网络分为了一层感官【三角】,四层中间【六边】,三种运动【圆与椭圆——HMN,头部运动神经元;SMN,下外侧运动神经元;MNVC,腹索运动神经元】。
    \quad 观察放大的网络结构,可以看出中间三层是由蓝紫色——宝蓝色——蓝黑色【浅到深】的顺序。另外可从表中看出,中间层存在明显的前馈回路:层3基本上针对层2和层1,而层2针对层1。
    神经形态网络——大脑神经图论文阅读笔记【1】_第8张图片
    另外,性别特异性的神经元和肌肉类别用紫色的包围物表示。
  • 肌肉控制
    \quad 接下来两张图是聚焦于肌肉控制与运动的。秀丽隐杆线虫在觅食和运动过程中的姿势运动由95块体壁肌肉产生,这些肌肉纵向排列,其中两个位于背下,另外两个位于腹下。46类神经元中有154个神经元与这些体细胞有神经肌肉连接。在这些神经元中,将108个大部分输出是肌肉的神经元作为运动神经元,并分为17类。这17类又可分为三组:5类头部运动神经元支配前体区域的肌肉(URA、RME、RMD、RIV和RMH),7类腹脊髓运动神经元支配身体其余部分(VA、VA、VB、DB、DB、VD、DD和AS)和5类下外侧运动神经元(SAB、SMB、SMD、SMB、SIB和SIA)【也就是上面三个缩写】
  • 局限性
    1>.下外侧运动神经元尚未被完全描述,因为它们的轴突穿过身体区域,这些区域尚未在高倍放大下完全成像。
    2>.每个个体之间的神经元连接也有一定的差异,但这种研究方式,一次只能研究一个个体,可迁移性欠佳。
  • 结论与思考
    有关分层与权重排序有向图算法,见另一篇博客:还在写

2.果蝇【5】

  • 文章:Automated Reconstruction of a Serial-Section EM Drosophila Brain
    with Flood-Filling Networks and Local Realignment
  • 链接: https://www.biorxiv.org/content/early/2019/08/04/605634.full.pdf
  • 杂志:谷歌博客文章
  • 在线观看链接:https://bit.ly/2GKmDF2【链接被拒绝了可恶】
  • 开源的工具:https://github.com/google/neuroglancer
  • 该工作对作者个人来讲意义主要在工具上,关于工作细节可见参考【5】

待更

参考

【1】https://zhuanlan.zhihu.com/p/150120177
【2】https://zhuanlan.zhihu.com/p/214200642
【3】https://zhuanlan.zhihu.com/p/63122910
【4】https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw%3D%3D&idx=1&mid=2247524621&scene=21&sn=2eba372d0eab566c9499a250fec6a841#wechat_redirect
【5】https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw%3D%3D&idx=2&mid=2247526920&scene=21&sn=68e71fd5343603e165f3bf3e2e38d282#wechat_redirect
【6】https://zhuanlan.zhihu.com/p/141042297
【7】https://zhuanlan.zhihu.com/p/80274764

你可能感兴趣的:(笔记,神经网络)