GNN&GCN基础

1.图神经网络(GNN)

1.1图的基本组成元素

        图由节点、边、全局三部分组成。且这三部分均可以由向量表示

GNN&GCN基础_第1张图片

GNN&GCN基础_第2张图片

 即可以将三元素进行embeddding操作。

1.2图的邻接矩阵

        如果图中有n个节点则邻接矩阵就是n×n的矩阵,如果节点i跟节点j相关则邻接矩阵的元素\AA _{ij}=1

        邻接矩阵属于稀疏矩阵

GNN&GCN基础_第3张图片

 1.3节点特征的更新

        节点的更新需要考虑相邻节点

GNN&GCN基础_第4张图片

GNN&GCN基础_第5张图片

GNN&GCN基础_第6张图片

GNN&GCN基础_第7张图片

2.图卷积神经网络(GCN)

2.1图卷积的定义

        有一个形象化的理解,我们在试图得到节点表示的时候,容易想到的最方便有效的手段就是利用它周围的节点,也就是它的邻居节点或者邻居的邻居等等,这种思想可以归结为一句话:图中的每个结点无时无刻不因为邻居和更远的点的影响而在改变着自己的状态直到最终的平衡,关系越亲近的邻居影响越大。

一文读懂图卷积GCN - 知乎本文的内容包括图卷积的基础知识以及相关辅助理解的知识点,希望有一定深度学习基础的同学能够平滑上手理解GCN。 具体来说,本文包括什么: 图网络的有哪些种类,它们之间的区别和联系是什么?图卷积的地位,图卷…https://zhuanlan.zhihu.com/p/89503068        GCN与传统的CNN完全不是一个东西,只是叫法相似。

GNN&GCN基础_第8张图片

2.2图卷积的任务

GNN&GCN基础_第9张图片

2.3图卷积的基本思想

        图卷积神经网络是半监督学习,它在训练的过程中:

        ①不需要全部的标签;

        ②用少量的标签也能训练;

        ③计算损失时只用有标签的。

        图卷积神经网络的基本思想如下,即“卷积”主要是橙色节点受到周围的节点的影响。

GNN&GCN基础_第10张图片

         其中GCN的卷积过程也可以有多层,即每一层会增加网络的感受野,每增加一层则橙色节点会受到更多节点的影响。

GNN&GCN基础_第11张图片

 2.4图卷积运算的基本要素

GNN&GCN基础_第12张图片

 2.4.1特征的计算方法

        特征计算就是邻接矩阵与特征矩阵相乘,如:结果矩阵第一行表示A的特征[1.4 2.5 4.5]

只由E的特征计算而来,因为节点A只跟节点E相关而不受其余节点的影响。

GNN&GCN基础_第13张图片

         问题1:但是上述的计算方法只考虑了周围的节点但是并没有考虑自身,因此需要将自己也纳入节点的更新计算,即只需要将邻接矩阵的对角线元素全部设置为1。

GNN&GCN基础_第14张图片

         问题2:因为度矩阵的是由邻接矩阵得来的(度矩阵表示每个节点相邻节点的个数),因此当邻接矩阵发生变化时度矩阵也要变化(对角线元素+1)

GNN&GCN基础_第15张图片

                 现在可以进行卷积运算了:

                其中\tilde{A}X是将相邻节点的特征求和并加上节点本身的特征,\tilde{D}^{-}(\tilde{A}X)是对节点的特征求平均。

GNN&GCN基础_第16张图片

        问题3:上述确实对节点的特征先求和最后求了平均,但是 \tilde{D}^{-}是左乘,因此只是对特征矩阵的行求平均,为了公平起见需要右乘一次\tilde{D}^{-},即对列也求平均。(唐级理解)

        

        问题4:上述操作是对特征矩阵的行列进行了归一化操作,但是这种归一化操作使得矩阵的元素都非常小,因此:

        

GNN&GCN基础_第17张图片

GNN&GCN基础_第18张图片

 2.4.2卷积运算的基本公式

GNN&GCN基础_第19张图片

         卷积运算并不是层数越多越好,实验表明图卷积操作2-3层的结果最佳。

你可能感兴趣的:(图神经网络,图论)