Hierarchical Graph Representation Learning with Differentiable Pooling

图神经网络(GNN)在图表示学习领域拥有巨大潜力，可以有效的学习到节点的嵌入表示。然而，现有的GNN方法太过于平坦，无法捕获图的层级表示，这对图分类任务是有问题的，因为很多图信息都是具有层级表征的，比如地图、概念图、流程图等等。这篇论文，提出了一个可微图池化模块来产生图的层级表示。DIFFPOOL在深度GNN的每一层针对图节点学习到一个可微的软簇分配矩阵，利用这个分配矩阵将图中所有节点映射到一组簇中，形成下一层GNN中的粗糙化图输入。

利用GNN的方法一般是将图作为计算图，通过在图上传递、转换和聚合节点特征信息来生成图中节点的嵌入表示。但现有的GNN结构的限制在于，它们太过于平坦，它们仅仅通过图中的边来传播信息，无法以一种分层的方式来推断和聚合信息。当利用GNN来做节点分类任务时，标准的做法是生成图中所有节点的嵌入表示，然后对这些节点嵌入表示进行全局池化操作，比如进行简单的求和或者利用神经网络，这种方法忽略了可能出现在图中的层级结构。

DIFFPOOL在深度GNN中的每一层学习一个可微的软分配，并基于得到的节点嵌入表示，利用软分配将节点映射到一组簇中。以该方法为框架，作者通过分层的方式堆叠GNN形成深度GNN：第L层的输入图的结点对应于第L-1层学习到的聚类簇，因此，每一层的图会越来越粗糙，训练后的DIFFPOOL可以生成任何图的一个层级表示。

图分类任务描述：

就是学习到一个有限维数的向量来表示整个图。

图神经网络(信息传播)：

堆叠GNN以及池化层：

这个新得到的粗糙图作为下一层GNN的输入；整个过程重复L次，就是在一系列越来越粗糙的图上用L个GNN模型。

值得注意的是，这个模型需要学习一个池化策略，来对图中节点进行聚类操作。

通过学习到的分配策略进行可微池化：