图注意力和序列图模型

  T-GCN论文地址:Sci-Hub | T-GCN: A Temporal Graph Convolutional Network for Traffic Prediction | 10.1109/TITS.2019.2935152

Graph Attention Network

回顾:GNN基本计算方法,通过聚合相邻节点的特征,得到本节点的特征表达
图注意力和序列图模型_第1张图片 图注意力和序列图模型_第2张图片

 图注意力和序列图模型_第3张图片

         但是这种方法在初始化的时候将所有的相邻节点看成是相同的,但是相邻节点的重要程度可能是不同的,因此引入了图注意力,为每条边引入一条权重项。

        在下面的公式中,softmax是希望所有的权重之和为1。因此,公式的重点在于\alpha如何设计

图注意力和序列图模型_第4张图片

 图注意力计算方法很多,我们在这里只介绍一种方法

第一步,计算\alpha

        \alpha值的计算的一种方法是,将wh1和wh2相乘,得到的向量首先经过Leaky ReLU平滑,使负值更小一点,再经过softmax归一化操作

图注意力和序列图模型_第5张图片图注意力和序列图模型_第6张图片

 第二步,将\alpha值乘进邻接矩阵

        我们可以将权重作用到邻接矩阵中,从而进行重构特征,需要注意的是,此时,需要将不是对应位置的权重mask掉图注意力和序列图模型_第7张图片

第三步,计算得到加权后的特征 

         然后,我们就可以得到加权后的特征了图注意力和序列图模型_第8张图片

 Temporal Graph Neural Network

        如果图跟时间有关系,该如何处理呢?

         处理时间经典的方式是RNN,我们将RNN应用到时间序列相关的数据就可以处理与时间有关的图数据了

图注意力和序列图模型_第9张图片 

 应用领域

        主要是图数据随时间变化的图数据,比如道路交通流量预测,虽然整个图不会随时间而改变,但是每个结点的车流量等数据会随着时间而改变。 

以道路交通流量预测为例:

        首先,我们需要定义整个图的结构,每个结点包含哪些特征。 

图注意力和序列图模型_第10张图片

        然后我们收集数据,比如说我们收集了3个时刻的数据 

图注意力和序列图模型_第11张图片 图注意力和序列图模型_第12张图片

 首先,我们将每一时刻的数据经过GCN进行特征提取

图注意力和序列图模型_第13张图片

 然后我们再将LSTM、GRU等序列网络引入到GCN中,即某一时刻的输入包括上一时刻的输出和本时刻的输入

 图注意力和序列图模型_第14张图片图注意力和序列图模型_第15张图片

 核心就是考虑两个维度:时间,空间

图注意力和序列图模型_第16张图片

 

T-GCN论文介绍:

时间图卷积网络。

T-GCN模型集成了图卷积网络和门控递归单元。利用图卷积网络捕获路网拓扑结构,对路网的空间依赖性进行建模。利用门控递归单元捕获道路交通数据的动态变化,对时间依赖性进行建模。T-GCN模型也可应用于其它时空预测任务。
)T-GCN模型的预测结果表明,在不同的预测水平下,T-GCN模型处于稳定状态,这说明T-GCN模型不仅可以实现短期预测,还可以用于长期的交通预测任务(15分钟30分钟45分钟60分钟)。
使用两个真实的交通数据集来评估方法。结果表明,与所有基线方法相比,该方法的预测误差降低了约1.5%-57.8%,证明了T-GCN模型在交通预测方面的优越性。
无论预测时长范围如何,T-GCN模型总能取得较好的预测结果。T-GCN模型可以捕获道路交通信息的时空特征,得出了道路交通信息的变化趋势。此外,T-GCN模型检测到交通高峰期的开始和结束时间,并与实际交通速度做出相似的预测结果。这些性质有助于预测交通拥挤和其他交通现象。

 参考:【论文泛读14】T-GCN-时间图卷积网络用于交通预测_及时行樂_的博客-CSDN博客

 

 

你可能感兴趣的:(图神经网络,人工智能,深度学习,计算机视觉,神经网络)