【Pytorch Geometric学习】 Message Passing 函数解析

1 前言

  此文为自己学习的总结，内容多有参考其他文章内容，并在参考文献处一并给出文章链接。

2 介绍

  Pytorch Geometric和dgl是两个基于Message Passing（消息传递）的图神经网络框架，两个框架的实现方式个人感觉有很大的不同。在此处介绍pyg的消息传递方式。

  图中的卷积计算通常被称为邻域聚合或者消息传递 (neighborhood aggregation or message passing). 定义 ${\mathbf{x}}_i^{(k-1)}\in R^F$为节点$i$在第$(k-1)$ 层的特征${\mathbf{e}}_{j,i}$ 表示节点 $j$到 节点$i$的边特征，在 GNN 中消息传递可以表示为
$${\mathbf{x}}_i^{(k)}={\gamma }^{(k)}\left({\mathbf{x}}_i^{(k-1)},{\square }_{j\in \mathcal{N}(i)}{\varphi }^{(k)}\left({\mathbf{x}}_i^{(k-1)},{\mathbf{x}}_j^{(k-1)},{\mathbf{e}}_{j,i}\right)\right)$$
其中$\square$表示具有置换不变性并且可微的函数，例如 sum, mean, max 等,$\gamma$和$\varphi$表示可微函数。
  在 PyTorch Gemetric 中，所有卷积算子都是由 MessagePassing 类派生而来，理解 MessagePasing 有助于我们理解 PyG 中消息传递的计算方式和编写自定义的卷积。在自定义卷积中，用户只需定义消息传递函数 $\varphi$ message()， 节点更新函数$\gamma$update() 以及聚合方式 aggr=‘add’, aggr=‘mean’ 或则 aggr=max. 具体函数说明如下：

下面具体介绍消息传递的三步曲:

2.1 Message passing消息传递

参考文献

[1]Pytorch-Geometric 中的 Message Passing 解析
[2]pytorch geometric教程一: 消息传递源码详解（MESSAGE PASSING）+实例
[3]SOURCE CODE FOR TORCH_GEOMETRIC.NN.CONV.MESSAGE_PASSING
[4]笔记：Pytorch-geometric: GAT代码超详细解读 | source node | target node | source_to_target
[5]PYG图卷积中的消息传递
[6]Pytorch中GNN的基类torch_geometric.nn.conv.MessagePassing
[7]https://pytorch-geometric.readthedocs.io/en/latest/notes/create_gnn.html