论文学习|集成式DGNN|GC-LSTM: 图卷积嵌入LSTM用于动态网络链路预测

提出了一个新颖的将GCN嵌入LSTM的端到端模型，用于动态网络链路预测。其中，LSTM作为主要框架用来学习动态网络时间快照的时间特征；GCN用来捕获节点的局部拓扑特征。

动态网络链路预测可以根据历史信息预测给定网络未来的连接状态。例如，可以根据人们过去的行为、朋友甚至个人属性预测人们在社交网络的未来关系。

在过去，通常将GCN层和LSTM层进行顺序的简单堆叠，而本文中，将GCN嵌入到LSTM，更好地将结构信息进行整合。以此来预测链路出现或者消失。主要思想是使得充分利用GCN在隐藏状态和单元状态来学习图结构，接着使用LSTM来学习时间特征。

1. 问题定义
   离散图快照序列：$G=\{G_1,...,G_T\}$，其中，$G_t=\{V,E_t,A_t\}$表示在时间$t$的一张网络。$V$是指所有的节点，$E_t$表示在固定时间间隔中的时间链路。
   思想：通过对之前时刻的图快照演化信息的学习来预测时间点$t$的所有链路的概率。
2. GC-LSTM框架
   模型包括一个解码器和一个编码器。编码器是将GCN嵌入到LSTM中，利用GCN来学习每个时刻快照的单元状态$c$和隐藏状态$h$的网络结构，使用LSTM来学习每条链路状态的时间信息；解码器是一个全连接层，将提取到的特征映射回原始空间。最终，输出预测网络，实现网络的链路预测。
   
   隐藏状态$h$用来提取上次的输入信息；细胞状态$c$用来保留长期信息。
   节点的隐藏状态受到邻居节点隐藏状态的影响；文中使用了两个GCN模型来对上次的单元层状态和隐藏层状态执行卷积操作。
   编码过程：
   ① 考虑之前的单元状态应该丢弃哪些信息，使用了遗忘门来执行，0表示所有信息都遗忘；1表示所有信息都保留。
   $f_t=\sigma (A_t{W}_f+GC{N}_f^K({\tilde{A}}_{t-1},h_{t-1})+b_f)$
   ② 更新单元状态
   当前输入的单元状态：${\tilde{c}}_t=tanh(A_t{W}_c+GC{N}_o^K({\tilde{A}}_{t-1},h_{t-1})+b_c)$
   输入门：$i_t=\sigma (A_t{W}_i+GC{N}_c^K({\tilde{A}}_{t-1},h_{t-1})+b_i)$
   $c_t=f_t\odot GC{N}_c^K{c}_{t-1}+i_t\cdot {\tilde{c}}_t$
   ③ 最后输出
   输出门：$o_t=\sigma (A_t{W}_o+GC{N}_o^K({\tilde{A}}_{t-1},h_{t-1})+b_o)$
   $h_t=o_t\odot tanh(c_t)$
   解码过程：
   $Y_d^{(1)}=ReLU(W_d^{(1)}{h}_t+b_d)$
   $Y_d^{(k)}=ReLU(W_d^{(k)}{Y}_d^{(k-1)}+b_d^{(k)})$
   $P_t=o_t\odot tanh(c_t)$