Gated Graph Sequence Neural Networks

ICLR 2016
Github地址：https://github.com/Microsoft/gated-graph-neural-network-samples

Gated Graph Neural Networks

• 六个基本公式：

  
  
  基本公式

Equation (1)：初始化步骤。它将节点注释（node annotations）复制到隐藏状态的第一个部分中，并用零填充其余部分。

Equation (2)：用于在不同node之间传递信息。
其中，A∈ R^D|V|×2D|V| 由图的出度邻接矩阵 A^(out) 和入度邻接矩阵 A⁽ⁱⁿ⁾ 连接而成，A_v:∈ R^D|V|×2D 为 A^(out) 和 A⁽ⁱⁿ⁾ 中与节点 v 相对应的两列（V为节点数，a_v^(t)∈ R^2D ）。如下图所示：

矩阵A的表示

Equation (3) - (6)：GRU单元的计算，z 和 r 分别为 update gate 和 reset gate。

• 同时，GG-NNs支持输出一个graph-level的outputs，公式为：

  
  

Gated Graph Sequence Neural Networks

• 使用了两个GG-NNs，分别为 Fo^(k) 和 FX^(k)。其中 Fo^(k) 用于预测 X^(k) 的输出 o^(k)， FX^(k) 通过 X^(k) 预测 X^(k+1) ，如下图所示：
  
  GGS-NN
  
  其公式为：
  
  
  其中，中间的 node annotations X^(k) 可以人为指定，也可以作为参数完全由网络学习。
  具体细节及文中的项目等请参照原文及源代码。