交通图网络太大太复杂，没法处理？DMVST-Net巧妙处理

参加「CTA 核心技术及应用峰会」，请扫码报名 ↑↑↑

作者 | Huaxiu Yao, Fei Wu, Jintao Ke, Xianfeng Tang等

译者 | 一步一步望着天上星

编辑 | Jane

出品 | AI科技大本营（id：rgznai100）

【导语】自 2018 年 6 月 DeepMind 发表论文“Relational inductive biases, deep learning, and graph networks”至今，深度图网络火的一塌糊涂，然而在交通领域等需要构建大型图网络的应用中，深度图网络似乎“举步维艰”。大型图网络建模往往需要大量的计算资源，这无论是在研究中还是在工业生产中，都是难以逾越的障碍。然而AAAI 2018 收录的一篇论文，从交通领域出发，巧妙给出了这个问题的解决办法。

摘要

在智慧城市的建设中，出租车需求预测是一个及其重要的问题。准确的预测需求能够帮助城市预分配交通资源，提前避免交通拥堵，从而缓解交通压力，同时降低出租车空载率，提高出租车司机收入。传统的出租车需求预测往往基于时序预测技术（time series forcasting techniques），无法对复杂的非线性时空关系进行建模。深度学习技术的突破为交通预测问题带来了曙光，但是现存的深度学习网络架构，往往只单一考虑了时间关系或者空间关系，没有把两者结合起来进行建模。

本文提出了 DMVST-Net（Deep Multi-View Spatial-Temporal Network），同时对时间关系和空间更新进行建模。更具体地，该模型同时从三个角度出发（分别是 temporal view, spatial view,semantic view），综合考虑了出租车需求在路网上分布的时空关系，并利用语义信息，对相似区域的时空模式进行了建模。

值得一提的是，本文运用图网络 和 Local CNN 的方法，对由数万路段组成的大型道路交通网，进行了特征提取，这一举措，将图网络的运用拓宽到一个新的层次，使得大型交通网的建模有了新的解决思路。

主要贡献

1、提出了一个多视角模型，该模型同时考虑了 spatial，temporal 和 semantic 信息。

2、提出了 Local CNN 的方法，用于捕获区域的局部特征，该特征受到所捕获区域邻近区域的影响。

3、基于不同区域之间的时空模式的相似性，构建了一个 region graph，用于表达区域特征的语义信息。

4、利用滴滴出行的出租车订单数据进行实验，验证了模型的有效性和先进性

模型架构（DMVST-Net）。

在介绍模型之前，先用通俗易懂的语言介绍一下论文的主要思路，先用一个易理解的例子来说明：

小明想预测整个广州市对出租车的使用需求，可是掐指一算，整个广州市有几万条道路，简单的用一维向量去表示它的话，会丢失空间关系；用图网络去构建交通网的话，得到的图尺寸相当大，瞅瞅自己只有四块 GPU，怕是带不动；转念一想啊，好多前辈都是用一个个规则的格网来表示城市的不同区域，再用 CNN 时空图像处理的方法建模，可是前辈们做了呀，这可咋整呢。于是小明想了一个办法：我用传统的格网去表示城市区域，每个格网的值就代表这个区域出租车的需求量，但是我分别对每个格网构建一个CNN网络。我再用图网络的方法，把城市中每个格网给连接起来，这样不就能够表示每个格网（城市区域）之间的联系了吗？

模型架构（DMVST-Net）

给小明同学鼓个掌，下面就是小明同学提出的模型。

     

DMVST-Net 分为三个部分，分别是 Spatial View，Temporal View 和 Semantic View。

Spatial View：Local CNN

什么是Local CNN呢？举个例子，如下图所示，我要对 （a）提取特征，最常见的一种方式是把（a）这整张图像送入到CNN中，进行卷积运算；而另一种方式就是把（a）分块，把划分后的每一小块分别送入到CNN中，也就是每次只对（b）进行卷积运算，最后把每个部分的结果进行综合，这就是 Local CNN。

     

提出该方法的动机是地理学第一定律——near things are more related than distant things。举个例子，相比于湖北省和河北省的人民，湖北省和湖南省的人民生活习惯要更相似，这是因为他俩靠的近。小明同学在这里把广州市分成了20 x 20个区域，每个区域是0.7km x 0.7km，用7 x 7的二维图像来表示每一个区域，图像中每个像素点的灰度值代表出租车的需求量。每张图像可以用  表示，其中 S=7 。 经过K个卷积层后得到 ，进行 flatten 操作得到 ，最后进行降维得到 ，具体公式如下：

     

     

最终我们Spatial View的输出是        。

Temporal View: LSTM

小明同学在这里学习了牛顿的思想：“站在巨人肩膀上”。在该部分，小明同学直接利用了传统的时序预测利器——LSTM。LSTM 网络是一种特殊的 RNN 网络，该网络的全称是 Long Short-Term Memory network（长短期记忆网络）。LSTM 网络可以说是为时序预测所量身打造的，该网络不仅能够捕获近期的时间关系，还能记忆长期的时间模式，由于遗忘机制的引入，可以使得 LSTM 网络对长时序列也有较好的处理能力。在这里，我们不做推导，直接把公式放出来，有兴趣的朋友们可以参见文末的相应链接【4】。

     

值得注意的是这里的 LSTM 网络的输入是 ，其中  是 Spatial View 的输出，而  是天气、节假日等元数据特征， 表示的是联合操作。最终我们 Temporal View 的输出是 。

Semantic View: Structural Embedding

接下来到了我们最期待的一步，如何利用图网络的方法，构建城市各个区域的关系网络，从而给我们的深度学习任务提供更高层次的特征。首先，小明同学根据一个直觉：具有相同功能的地点应该具有相似的出租车需求模式，然而具有相同功能的地点在空间上不一定相邻。举个栗子，北京海淀区的一处 CBD 和朝阳区的一处 CBD 在很大程度上功能相似，但是这俩个地方隔得老远，可是却可能有着相似的出租车需求模式。基于这个直觉，小明同学构建了区域和区域之间的全连接网络 ， 代表节点（即区域,总数为 20 x 20）， 代表每两个节点的边，为相似性矩阵， 代表节点 i 和 j 的相似性。

那么问题来了，这个相似性基于什么特征衡量呢？用什么方法去衡量呢？

我们的小明同学非常的聪明，他将每个节点的需求序列进行整合，计算每周的平均需求量，作为节点的特征，然后采用了动态时间规整（DTW）【5】的方法来衡量节点之间的相似性。

     

为了将每个节点的特征进行压缩，并同时维持网络的结构信息，小明同学又采用了graph embedding 的方法，将每个节点的特征压缩到更低的维度。为了构建一个端到端的神经网络模型，小明同学又将压缩后的特征送入到一个全连接层，最后得到了Semantic View 的输出      。

请注意，这里的代表的是节点 i 的语义特征，也就是说，Semantic View提取整个网络的特征，但是只把单个节点所学习到的特征送到主体模型中。

模型综合

最后就是模型综合部分了，简单的讲，就是把Spatial View，Temporal View 和 Semantic View 这三个部分的输出结果给联合起来，再通过一些神经网络层进一步提取特征，最后与真实值计算Loss，通过优化算法不断训练模型，最终得到一个较优的结果。这里简单列一下公式：

• 三个部分特征的综合：      

• 输出函数设计：      

• 误差函数设计：      

这里的 Loss Function 设计比较有趣，该公式由两部分组成，第一部分是均方误差（MSE）,第二部分是平均绝对百分误差（MAPE）,MSE更多的和大值相关，而MAPE对大值和小值一视同仁，引入MAPE能够避免训练过程被大值的样本所主导。

模型训练算法

在这里，直接把算法贴出来，算法的主要思想就是每个区域的需求预测都使用相同的网络结构，但是每个区域对应的网络有着不同的参数，对所有的网络结构都进行训练，直到满足停止条件。这里的算法不是重点，就不再叙述了，有兴趣的朋友可以看一下原文。

     

---

实验

数据集

在这里，将文章的数据集描述进行了整理，方便大家快速阅读

     

评价矩阵

     

主要结果

小明同学将自己的模型和当前的主流模型进行了对比，其中包括 Historical average，ARIMA，Ordinary least square regression，Ridge regression，Lasso，Multiple layer perceptron，XGBoost，ST-ResNet。

     

从表中可以看出，DMVST-Net的效果在两种评价指标上均为最优，证明了模型的有效性和先进性。

除此之外，小明同学还计算了各模型从工作日到休息日，相关误差的增长（RIE）：

      

可以看到DMVST-Net的RIE最小，证明了模型鲁棒性很高

分别展示了周一到周日各天的预误差结果：

     

可以看到DMVST-Net每天的预测误差（MAPE）都比其他模型小。

最后讨论了LSTM输入序列长度对模型结果的影响，及Local CNN输入图像尺寸的影响。

      

结语

这篇文章的作者说，该文的最大贡献在于从三个视角考虑了城市出租车的需求模式，提出了DMVST-Net，然而这种多视角的建模方式，早就老生常谈了。反到是对于图网络的巧妙运用，才成就了这篇论文：利用区域作为节点构图，而不是采用路段作为节点构图，不仅避免了城市尺度下图网络过大的问题，而且很好的利用图网络的特性，构建了不同区域之间的联系，从而提取了各区域的语义特征。这种大而化小的思想值得我们去学习，在图网络尚未解决计算复杂性的今天，或许这种小trick更加有利于加速产学研结合，将图网络应用到更多的地方！

参考文献

• Deep Multi-View Spatial-Temporal Network for Taxi Demand Prediction

  https://arxiv.org/abs/1802.08714

• Relational inductive biases, deep learning, and graph networks

  https://arxiv.org/abs/1806.01261

• Graph Neural Networks: A Review of Methods and Applications

  https://arxiv.org/abs/1812.08434

• Long short-term memory

  https://ieeexplore.ieee.org/document/6795963?denied=

• Dynamic time warping

  https://en.wikipedia.org/wiki/Dynamic_time_warping

（本文为投稿文章，转载请微信联系1092722531）

◆

精彩推荐

◆

5月25-27日，由中国IT社区CSDN与数字经济人才发展中心联合主办的第一届CTA核心技术及应用峰会将在杭州国际博览中心隆重召开。首届CTA核心技术及应用峰会将围绕人工智能，邀请技术领航者，与开发者共同探讨机器学习和知识图谱的前沿研究及应用。

同时，我们推出会议双日开发者盲定票，仅售299元（原票价1099元），限量30张。请扫描下方二维码，或添加小助手微信1731967109，备注【CTA】，了解大会详情以及票务问题。

推荐阅读

• “你行你上”：有本事跟OpenAI Five打一把DOTA？
  

• 以女大学生相亲为例，给你讲明白数据挖掘算法

• Python分析《权力的游戏》最终季...... | 附源码

• 谷歌大神Jeff Dean点赞网红博士论文：技术头条

• 滴滴全链路压测解决之道 | 技术头条

• 手机导航已死！

• 如何嫁给年入百万的阿里人？

• 《捕鱼达人》幕后的开发引擎玩起区块链, 区块链游戏的春天已近？| 人物志

• 程序员如何向女友解释：为啥软件都要装C盘？

❤点击“阅读原文”，直接参与大会报名。