GCN在交通流预测方面的相关文章

GCN在交通流预测方面的相关文章

（2018AAAI）Spatio-Temporal Graph Convolutional Networks: A Deep Learning Framework for Traffic Forecasting（STGCN）

解决的问题

1. 使用传统CNN将交通流考虑为网格结构（如图片，视频），而不是一般的域（如图）这样虽然能够学习到局部特征，但是不一定符合现实情况
2. 使用RNN对时序进行建模，训练难度和参数量都很大

方法和创新：

• 第一次使用图来模拟交通网络，同时使用图卷积对时空序列进行建模
• 使用纯卷积结构从图结构中同时提取时空特征
  

交通数据流的表示形式如图所示

$$v^{l+1}={\Gamma }_1^l\ast \mathcal{T}\mathrm{ReLU}\left({\Theta }^l{\ast }_{\mathcal{G}}\left({\Gamma }_0^l{\ast }_{\mathcal{T}}{v}^l\right)\right)$$
Critical Thinking：

1. 使用卷积来代替LSTM类似的模式确实可以加快训练速度，但是是否也会导致缺失历史性数据信息，只能实现短期预测，无法实现长期预测
2. 图卷积捕捉不同节点之间的信息来建模空间模型，似乎不能很好地利用不同区域之间的潜在关系

（2018ICLR）DIFFUSION CONVOLUTIONAL RECURRENT NEURAL NETWORK: DATA-DRIVEN TRAFFIC FORECASTING

解决的问题：

1. 之间的交通问题都是在欧式空间进行计算，但是没有考虑到非欧空间的建模
2. 由于空间复杂性和时间多边形，交通预测比较困难

方法和创新：

1. 将空间相关性建模为有向图上的扩散过程，从而模拟了交通流的变换
2. 提出扩散卷积递归神经网络，能够使用seq2seq的框架捕获时间序列之间的空间和时间依赖性
   
   

（2019IJCAI）STG2Seq: Spatial-Temporal Graph to Sequence Model for Multi-step Passenger Demand Forecasting

解决的问题：

1. 基于CNN的方法将区域划分为网格进行，只能对近区或者远区之间的欧式关系进行建模，但是不能对非欧式距离进行建模
2. 基于RNN的架构需要多次迭代，对长时间依赖进行建模会导致信息遗忘
3. 不同时间步之间可能存在不同的影响

方法：使用分层图卷积来捕获时空相关性，多个分层卷积进行叠加后使用门控进行输出控制，对历史乘客数据进行长期编码，对单步预测数据进行短期编码，使用注意力进行输出



Critical Thinking：

• 所用图结构是通过判断两个区域之间的需求量分布来判断是否有相关性，虽然能够捕捉到一些兴趣区域的相似性，但是是否合理值得讨论，能否事先定义图结构或者通过学习的方式来学习图结构

（2019CIKM）Matrix Factorization for Spatio-Temporal Neural Networks with Applications to Urban Flow Prediction

解决的问题：

1. 不同的区域存在潜在功能性，会影响模型预测，如果模型使用共享参数无法做出准确预测，如何在考虑潜在区域功能下建立模型来协同预测城市流量
2. 如何使得框架能够适用和简单

方法/创新：使用个特定区域预测器，

下图为特定区域预测器的结构，由非线性层和稠密矩阵分解层组成

$$\hat{\mathbf{Y}}={\mathcal{H}}^{(m)}\left(\sigma \left(\dots {\mathcal{H}}^{(1)}(\sigma (F))\dots \right)\right)$$
其中${\mathcal{H}}^{(m)}$代表稠密矩阵分解层，$F$代表抽取出来的时空特征，作者想要为每个区域都特定一组参数，所以参数量为$\mathrm{W}=\left[W_1,\dots ,W_{n_r}\right]\in {\mathbb{R}}^{n_r\times n_f^{\prime }\times n_f},$where $W_i\in {\mathbb{R}}^{n_f^{\prime }\times n_f}$，将参数分解为区域embedding和参数embedding近似原始参数

（2019IJ）Graph WaveNet for Deep Spatial-Temporal Graph Modeling

解决的问题：

• 1）之前的研究假设图结构反应了节点间真正的依赖关系，但是当一个连接不需要两个节点间的关系，以及两个节点间的关系可以被忽略时；2）还有一种情况，存在一些节点虽然没有连接，但是却有相似的模式
• 基于RNN的模型存在迭代速度慢耗时的情况，基于一维卷积的CNN对于感受野的范围仅是线性增大，不能有效建模时间相关性

方法/创新：

• 创造了一个自适应邻接矩阵，能够自动学习空间相关性
• 提出了一个有效且高效的框架来捕获时空相关性，将图卷积同扩张卷积组合，使得图卷积能够处理由不同粒度级别的扩张卷积提取的节点信息
  网络结构如下：
  

$$Z=\sum _{k=0}^K{P}_f^{k}X{W}_{k1}+P_b^{k}X{W}_{k2}+{\tilde{A}}_{apt}^{k}X{W}_{k3}$$
2. 时序卷积层

（2020AAAI）Spatial-Temporal Synchronous Graph Convolutional Networks:A New Framework for Spatial-Temporal Network Data Forecasting（STSGCN）

解决的问题：

1. 当前的模型都是通过单独建立时空组件来分别捕获时间空间相关性，但是当前时刻同一个节点会在下一时刻影响自己也会影响下一时刻的邻居
   
   时空图中的每个节点都可以在同一时间步直接影响其相邻节点，并且这种影响是从实际的空间依赖性得出的。同时，由于时间序列中的时间相关性，每个节点也可以在下一时间步直接影响自己。此外，由于同步的时空相关性，每个节点都可以在下一时间步直接影响其邻居节点。
2. 不同节点表现出时空异质性，即住宅区、商业区在不同时间段表现出不同的模式

方法及创新：

1. 构建了时空图卷积模块，直接可以同步地捕捉时空相关性
2. 构造多模块层学习远程时空异质性，在每个时间段部署多个模块，从而能够每个模块专注于提取局部相关性
   
   Figure 2: STSGCN architecture. Our STSGCN consists of multiple Spatial-Temporal Synchronous Graph Convolutional Layers (STSGCLs) with an input and an output layer. It uses an input layer to transform the input features into a higher dimensional space. Then stacked mulitple STSGCLs capture the localized spatial-temporal correlations and heterogeneities in spatial-temporal network series. Finally, it uses a multi-module output layer to map the final representations into the output space.

构建时空同步图

Critical thinking：

1. 创新点：将时域空域进行连接，生成局部时空同步图来捕获节点间的时空关系和异质关系，
2. 不同的局部时空图之间对于预测的权重没有考虑，因为不是每个局部时空图对于每个节点的预测权重都是相同的，通过直接concat是否错失了这种局部重要性关系，比如离预测时刻越近的局部时空对于决策的影响越大

（2020AAAI）GMAN: A Graph Multi-Attention Network for Traffic Prediction

解决的问题：看试验效果主要针对长期的交通流预测

1. 时间和空间的复杂相关性，道路路网的不同节点间相互影响，各个节点对于自身的影响，以及动态的交通流之间的相互影响
2. 对于长期预测问题，会有误差逐渐累积的过程

方法及创新：

1. 使用时空注意机制分别对动态空间关系和非线性时间关系进行建模，同时使用门控机制来自适应融合时空注意力机制提取到的信息
2. 使用转换注意力机制，将历史流量特征和未来时间直接进行建模，以减少误差传播

网络结构：

右上的spatial embedding通过node2vector得到，而temporal embedding由对一周，每个时刻的one-hot进行表示

时空注意力机制如下所示：

为了减少计算复杂度，通过分组注意力进行改进：

在编码器和解码器中间加入了转化注意力层，将历史数据和未来数据进行直接地注意力连接：

Critical Thinking：

1. 和以往直接通过图卷积进行学习的方式不同，通过对整个网络进行表示学习，多处使用注意力机制来对时间空间的影响进行建模，通过分组注意力来减少计算复杂度，这样应该也是能够实现长期预测的关键因素。
2. 如果对于小区域，每个节点都对相互影响是可以解释的，但是如果图很大的情况下，是否只有小区域内图节点相互影响，对于图卷积能否使用注意力机制来进行，比如不同节点和时间点对于邻居和自身的影响

（2020IJCAI）LSGCN: Long Short-Term Traffic Prediction with Graph Convolutional Networks

解决的问题：

1. STGCN采用迭代机制，随着层次的加深，误差也不断增大，所以无法同时兼顾长短期交通预测，而ASTGCN和DCRNN采用非迭代机制，也无法同时兼顾长短期预测任务
2. 迭代误差会随着时间逐渐增大

方法和创新：
针对长短期交通预测，提出LSGCN，采用空间门控块和门控线性单元卷积分别捕获时间和空间特征，同时提出了图注意网络cosAtt，将GCN和cosAtt集成到空间门控模块中

前半部分的GLU和STGCN是相同的，但是在对节点进行图卷积捕捉空间特征时，不是采用直接图卷积，同时还采用了一个图注意网络来捕获相似路况的情况，将GCN输出经过一个sigmod映射后决定输出cosAtt的哪些部分

关键公式如下，这里和GAT进行对比，可以看出GAT主要考虑的是邻居节点对于当前节点的影响，而cosAtt考虑的是全局注意力，下面是GAT和CosAtt的区别，

$$\begin{gathered} GAT \\ {e}_{ij}=A\left(q_i{w}_i,q_j{w}_j\right),w_i,w_j\in F\times F^{\prime } \\ \begin{array}{c}{a}_{ij}=\mathrm{softmax}\left(e_{ij}\right)=\frac{\exp \left(e_{ij}\right)}{{\sum }_{k\in {\mathcal{N}}_i}\exp \left(e_{ik}\right)}\\ q_i^{\prime }=\sigma \left({\sum }_{j\in {\mathcal{N}}_i}{a}_{ij}{q}_j{w}_j\right))\end{array} \end{gathered}$$
$$\begin{gathered} cosAtt \\ \begin{array}{c}{e}_{ij}=\cos \left(h_i,h_j\right)\cdot w_{ij}=\frac{h_i\times h_j^T\cdot w_{ij}}{\Vert h_i\Vert \times \Vert h_j\Vert }\\ a_{ij}=\mathrm{sigmoid}\left(e_{ij}\right)\\ \cos At{t}_i={\sum }_{j\in {\tilde{N}}_i}{a}_{ij}{h}_j{w}_{ij}\end{array} \end{gathered}$$

Critical Thinking：

1. 这里主要考虑到了逐步预测导致的累计误差，作者提供的方法首先是简化网络结构，减少累计误差，使用了门控机制来捕获节点的空间关联
2. 作者采用了全局注意机制，可以考虑到相似道路之间的关系从而捕获节点之间变化的相似性

（2020WWW）Traffic Flow Prediction via Spatial Temporal Graph Neural Network

解决的问题：

1. 现有基于GNN和RNN的方法不能反应道路中的动态空间信息，简单的静态空间临近不能很好的建模
2. RNN间接对时间依赖性建模，如果时间路径过长的话，很难学习到长期的依赖关系，全局时间信息也有重要影响

方法创新：

1. 提出了一个新的图神经网络及位置注意机制，从而更好地从临近道路聚集交通信息
2. 结合递归网络和转换网络来捕捉全局和局部特征
3. 提出了新的STGNN建模复杂拓扑和时间相关性的数据

• 这里S-GNN与GCN不相同，作者认为空间空间节点间的联系是复杂的，不应该均匀聚集到给定中心节点，所以提出要学习一个每个节点的位置表示·
  $$\mathrm{R}[i,j]=\frac{\exp \left(\varphi \left(\mathrm{Score}\left({\mathrm{p}}_i,{\mathrm{p}}_j\right)\right)\right)}{{\sum }_{k=1}^N\exp \left(\varphi \left(\mathrm{Score}\left({\mathrm{p}}_i,{\mathrm{p}}_k\right)\right)\right)}$$
  通过学习这种位置信息表示，构建了一个新的图，然后在新图上使用图卷积（思想是节点间的关系不仅仅是空间位置上的关系，需要网络自己去学习一个位置表示关系，很像让网络自己去学一个拓扑表示）
  $$\begin{gathered} \mathrm{mask}(\mathbf{R})=\{\begin{array}{ll}{\mathbf{R}}_{ij},& \text{ if }{\tilde{\mathbf{A}}}_{ij}>0\\ 0,& \text{ otherwise }\end{array} \\ {\mathrm{X}}_{\text{out}}=\sigma \left({\tilde{\mathrm{D}}}_R^{-1/2}\tilde{\mathrm{R}}{\tilde{\mathrm{D}}}_R^{-1/2}{\mathrm{X}}_{in}{\mathrm{W}}^{(l)}\right) \end{gathered}$$
  
  这里就是使用transformer来捕获对每个节点的时间全局相关性
  
  $$\begin{gathered} {\mathrm{Q}}^{v_i}={\mathrm{H}}^{v_i}{\mathrm{W}}^Q,{\mathrm{K}}^{v_i}={\mathrm{H}}^{v_i}{\mathrm{W}}^K,\mathrm{V}={\mathrm{H}}^{v_i}{\mathrm{W}}^V \\ \text{ Attention }\left({\mathrm{H}}^{v_i}\right)=\mathrm{softmax}\left(\frac{\left({\mathrm{H}}^{v_i}{\mathrm{W}}^Q\right){\left({\mathrm{H}}^{v_i}{\mathrm{W}}^K\right)}^T}{\sqrt{d_k}}{\mathrm{H}}^{v_i}{\mathrm{W}}^V\right) \end{gathered}$$

（2020NIPS）Adaptive Graph Convolutional Recurrent Network for Traffic Forecasting

解决的问题：

• 最近的方法都是在设计复杂的网络结构，在预定义的图中共享模式，预定义的图需要更多的专业知识且对图的结构敏感，以这种方式生成的图是直观的，但是不完整的，可能包含偏见

方法/创新：文章提出不适用预先定义的图结构使用共享的模式，而是学习每个节点特定的模式

• 节点自适应参数学习（NAPL）模块，学习每个流量序列的特定节点模式，分解传统GCN中的参数，根据节点嵌入从所有节点共享的权重池和偏差池生成特定节点参数
• 数据自适应图生成模块（DAGG），用于从数据中推断节点嵌入(属性)，并在训练期间根据数据自适应生成图片生成图

具体实现（这里的思想值得学习）：

1. 节点自适应参数学习
   常规的GCN可以表示为如下形式
   $$Z=\left(I_N+D^{-\frac{1}{2}}A{D}^{-\frac{1}{2}}\right)X\Theta +\mathbf{b}$$
   其中$A$是邻接矩阵$\in R^{N\times N}$，$X是输入\in R^{N\times C}，\theta 是需要学习的参数\in R^{C\times F}$，这里从节点的角度来看相当于把从C维投影到F维（所有节点都共享参数$\theta$），这里作者觉得虽然共享参数学到的是全部节点的最重要的特征，但是，由于交通问题的复杂性，不同的流量序列间存在不同的模式，所以建议为每个节点都学习一组参数，但是这里会出现另外一个问题，会导致参数$\Theta \in R^{N\times C\times F}$，所以作者这里利用矩阵分解的思想，将参数分解为node-embedding $E_g\in R^{N\times d}$，以及权重池$W_g\in R^{d\times C\times F}$，从解释上来说可以解释为节点i根据embedding从共享权重池中提取参数，所以图卷积可以表示为
   $$Z=\left(I_N+D^{-\frac{1}{2}}A{D}^{-\frac{1}{2}}\right)X{E}_{\mathcal{G}}{W}_{\mathcal{G}}+E_{\mathcal{G}}{\mathrm{b}}_{\mathcal{G}}$$

2. 数据自适应图生成
   这里作者不适用预先定于图结构，而是通过随机初始化的node embedding（$E_A$）来进行学习节点表示，直接代替归一化的拉普拉斯矩阵
   $${\mathbf{D}}^{-\frac{1}{2}}A{\mathbf{D}}^{-\frac{1}{2}}=\mathrm{softmax}\left(\mathrm{Re}LU\left({\mathbf{E}}_{\mathbf{A}}\cdot {\mathbf{E}}_A^T\right)\right)$$
   所以GCN被改这个样子：
   $$\mathbf{Z}=\left({\mathbf{I}}_{\mathbf{N}}+\mathrm{softmax}\left(\mathrm{Re}LU\left({\mathbf{E}}_{\mathbf{A}}\cdot {\mathbf{E}}_{\mathbf{A}}^T\right)\right)\right)\mathbf{X}\Theta$$

3. 最后由上面两部分组成了自适应图卷积神经网络（AGCRN），具体就是将GRU中的多层感知机替换为节点自适应表示学习GCN，这里的节点embedding在各个AGCRN中
   $$\begin{array}{rl}\mathbf{A}& =\mathrm{softmax}\left(\mathrm{ReLU}\left(\mathbf{E}{\mathbf{E}}^{\mathbf{T}}\right)\right)\\ {\mathbf{z}}_{\mathbf{t}}& =\sigma (\mathbf{A}\left[{\mathbf{X}}_{:,t},{\mathbf{h}}_{\mathbf{t}-1}\right]\mathbf{E}{\mathbf{W}}_{\mathbf{z}}+\mathbf{E}{\mathbf{b}}_{\mathbf{z}}\\ r_t& =\sigma \left(A\mid X_{:,t},h_{t-1}\right]E{W}_r+E{b}_r\\ {\hat{h}}_t& =\tanh (A\left[X_{i,t},r\odot h_{t-1}\right]E{W}_{\hat{h}}+E{b}_{\hat{h}}\\ h_t& =z\odot h_{t-1}+(1-z)\odot {\hat{h}}_t\end{array}$$
   这里网络的结构类似DCRNN，但是对GRU的改变又很像ConvLSTM的想法

Critical Thinking：

• 这里作者提出不要使用提前定义的邻接矩阵来进行图卷积，因为提前定义需要很多专业知识，通过节点自适应学习模块和数据自适应图生成模块来增强传统的图卷积网络，学习到了特定节点中不同的模式
• 但是从最后数据中可以看出，这样学习参数量还是比较大的，可能会导致内存溢出，特别当图的节点特别多的时候，作者的解决方法是图划分和子图训练（这里是否有可以改进的空间）
• 这里的适应性参数和图学习，相当于将预定义图转化为需要学习的embedding，然后通过矩阵分解来简化参数。

（2020CIKM）Spatiotemporal Adaptive Gated Graph Convolution Networkfor Urban Traffic Flow Forecasting

解决的问题：

• 之前的方法主要通过构建一个固定的图来建模空间依赖关系，但是道路之间的作用是相互的，是动态调整的
• 以前的方法使用GNN聚合邻居信息只考虑了局部临近性，但是没有考虑到全局上下文信息

方法/创新：

• 根据交通状况的空间相关性建模动态加权图，同时定义了道路节点的空间邻居和语义邻居分别表示道路的连通性和交通特征的上下文相似性
• 针对级联神经网络性能下降的问题，提出了一种自适应选通机制来选择性地更新和遗忘高维特征

定义了两个图：
一个空间相邻图，一个语义相邻图（及空间相连和使用DTW对齐后相邻，相当于多了一个捕获兴趣区域的图）

网络结构如下图：

在时间维度上使用多头注意力自注意TCN提取每个节点的时间特征（相当于每个时间片分配一个权重）

对于空间特征这里的图卷积分为两部分，左边是实际交通图（语义交通图），右边是自适应邻接矩阵，通过类似门控机制的图卷积通过自适应邻接矩阵来对图卷积后的结果进行门控，这里的图卷积使用了多头GAT，能够为聚合邻居信息时按照权重来聚合。

融合阶段
这里的融合方式有很多（文中直接采用直接concate），也可以使用maxpooling或者LSTM，为了避免多步预测造成的误差累积，这里直接采用一次预测多个时间步的方法
Critical Thinking：

1. 提出的语义图按照DTW算法得到，这样得到的语义图是否能够真实反应节点间的信息（是否只需要自适应邻接矩阵就能够反应语义）
2. 将TCN和GCN分开是否不能够很好利用空间和时间的特征