图神经网络的图网络学习(下)

原文:Learning the Network of Graphs for Graph Neural Networks

1. 文章信息

作者

Yixiang Shan, Jielong Yang, Xing Liu, Yixing Gao, Hechang Chen, & Shuzhi Sam Ge (2022)

单位

期刊或会议

题目

Yixiang Shan et al. “Learning the Network of Graphs for Graph Neural Networks” (2022).

2. BGC

背景

图神经网络 (GNN) 在许多使用图结构数据的场景中取得了巨大成功。然而,在许多实际应用中,在应用 GNN 时存在三个问题:图未知、节点具有噪声特征以及图包含噪声连接。

目的

为了解决这些问题,我们提出了一种新的图神经网络,称为 GL-GNN。我们的模型包括多个子模块,每个子模块选择重要的数据特征,并在图未知时学习数据样本对应的关键关系图。 GL-GNN 通过学习子模块的网络进一步得到图的网络。使用图网络上的聚合方法进一步融合学习到的图。我们的模型通过同时学习多个数据样本的关系图以及图的关系网络来解决第一个问题,并通过选择重要的数据特征以及重要的数据样本关系来解决第二个和第三个问题。

结论

我们将我们的方法与图未知时在七个数据集上的 14 种基线方法和在图已知时在两个数据集上的 11 种基线方法进行比较。结果表明,我们的方法比基线方法具有更好的准确性,并且能够从数据集中选择重要的特征和图形边缘。

3. 创新点

方法

我们方法的整体结构如图1所示。数据样本被输入到M个子模块中,以独立学习M个样本关系图。 M个图以及M个学习到的特征被进一步输入到图网络学习模块中,学习一个图网络,然后用于图聚合模块生成图和分类结果。每个子模块的整体结构如图2所示。

具体查看图片一栏

理论

具体理论可以看图神经网络的图网络学习(上)

应用

在本文中,我们提出了一种图形神经网络方法GL-GNN,它可以同时处理已知图和未知图的情况。该方法使用多个子模块学习重要特征和重要图边,这些子模块的结果通过学习到的子模块网络进行汇总。

4. 文章好在哪里

创新点

1.我们提出了一种新颖的 GNN,它可以使用图网络同时学习图结构、重要数据特征和数据样本的关键关系图。据我们所知,这是第一个使用图网络来学习 GNN 的图结构的模型。

2.我们的方法同时学习图和半监督分类器,因此可以在分类器的训练过程中调整图。该属性允许我们的方法应用于图未知、节点具有噪声特征以及图包含噪声连接的场景,这扩展了 GNN 的应用。

图片

接下来我们看下作者给的结构图了,初次看这个图的时候感觉很迷有没有,这画的是个什么。后来仔细观察了一下,才恍然大悟,图1中上下两个代表两层,图2是图1中的第一步中的一个子图模块(文中叫多子模块的图学习算法——multiple sub-modules )。我感觉这个流程图画的没有那么让人一看就懂,但是整体配色还是不错的,值得我们借鉴学习。

图神经网络的图网络学习(下)_第1张图片

图神经网络的图网络学习(下)_第2张图片

逻辑

文章的逻辑还是不错的,整体来说还是一环套一环,而且基本上都能有理论对其论点进行支撑。文章结构也是不错的,这点值得我学习。

5. 核心步骤

思路

  1. 我们提出了一种新颖的 GNN,它可以使用图网络同时学习图结构、重要数据特征和数据样本的关键关系图。据我们所知,这是第一个使用图网络来学习 GNN 的图结构的模型。

  2. 我们的方法同时学习图和半监督分类器,因此可以在分类器的训练过程中调整图。该属性允许我们的方法应用于图未知、节点具有噪声特征以及图包含噪声连接的场景,这扩展了 GNN 的应用。

  3. 我们将我们的方法与14 种基线方法在位置图上进行比较(table1),同时在已知图上与 11基线方法进行了对比(table3),这其中包括能够学习图的最新方法和使用 kNN 学习图的两阶段方法。结果表明,我们的方法比基线方法取得了更好的性能。

  4. 在 7 个真实数据集上的实验表明,我们的算法可以去除噪声的特征子集和节点的噪声关系(即学习关键特征和关键图边)。

点评:引言到这里基本就结束了,剩下的就是对全文的框架的一个总结以及对符号的一个定义。通过引言来看,这篇文章做了很多关于图数据的去噪工作。从最开始的KNN+GNN到后面的LDS最后到作者的模型GL-GNN,整体行文还是很有逻辑同时在每个论点里都有足够的论据,这点也是我们以后写文章需要借鉴的。同时通过这篇文章我们也可以清晰的看到的趋势:

1.在深度学习的领域就是要做到更多的让机器来自主的学习,同时要避免人为的因素过多的干预。

2.模型相关的解释性

图表

图表画的也不错,从目前发布的会议文章来看,基本上在实验部分都是由一个长表来搭配几个短表的格式,这点也是值得我们以后再写论文中值得借鉴的。

你可能感兴趣的:(GNN论文素材,神经网络,学习,深度学习)