GTNs论文笔记(一)

发现看错论文了,重头开始的一天。

GTNs论文笔记(一)_第1张图片

在GTNs前,GNN已经得到了广泛的应用,诸如图分类,连接预测,节点分类等。在网上看到的资料说,连接预测可以用作兴趣推送。GNN已经被证明在社交网络,引文网络,推荐系统等十分高效。

虽然GNN取得了很大的成功,但其仍有不足之处,它假定图结构是固定且同质的。若一张有缺失边和错边的噪声图可能会将错误的邻居进行无效的卷积。针对异构图,最简单的做法是直接忽视边和点的种类,直接把它们当做同质图看待,显然这种简单粗暴的方式并不是最优方案,不能展现类型的信息。更常见的做法是人工设计元路径,把异构图转换为元路径定义的同质图。GNN就可以在转换后的同质图上操作了。

GTNs将输入的异构图转换为元路径图,使用端到端的方式学习节点表示。

大概还是在说GNN的成就和缺点,最显著的缺点就是人工选择元路径,不能有效地抓住所有的可能的关系。

本架构的目标是产生新的图结构,同时学习节点表示。学习新图结构的过程包括识别有用的元路径和多跳连接。首先需要明确一些GCN中的基本概念。

本架构的输入是多个有不同种类的边和点的图结构。分别是点和边的类型的集合。输入可以看做异构图,V是节点的集合,E是边集,V,E都有唯一的一个类型。一个标准图中即边和点的类型都是唯一的。我们需要讨论的是的情况。异构图可以用邻接矩阵的集合来表示,其中K是边的种类的个数,Ak是关于第k种边的邻接矩阵,我理解为在Ak中只有两点间有特定某种类型的边,其对应位置的值才不为0,这个集合可以写为张量的形式也就是K个NxN矩阵堆叠而成的。特征矩阵表示每个点有D维的输入特征。

p是异构图G的一条路径,被不同类型的边连接。比如,每个ti都属于Te,这条路径表示一个第l种的元路径。它以v1和vl+1的复合关系来定义,若给定R或边类型序列,一条元路径p的邻接矩阵可通过邻接矩阵的乘积得到,如在本架构中,新的图结构都是用邻接矩阵表示的。

H是每一层的特征表示,在GCN中,前向传播的公式将为

解释一下公式里的几个变量,,A是图G的邻接矩阵,I是单位矩阵,A+I可以理解为给每个点加上一个子环,这是为了考虑每个点自身的特征。D波浪是A波浪的度矩阵,只有对角线可能非零。W是可学习的权重矩阵。这这个式子中,除H,W外,其余变量都基于给定的图结构,是不可学习的。而对于GTNs来说,图结构是学习的,对于有向图来说,A波浪需要进行正则化成为(为什么要正则化呢,这里我不太清楚)

你可能感兴趣的:(论文)