Practical Adversarial Attacks on Spatiotemporal Traffic Forecasting Models

Practical Adversarial Attacks on Spatiotemporal Traffic Forecasting Models

 

基于机器学习的交通预测模型利用复杂的时空自相关性来提供城市范围的交通状态的准确预测。然而，现有方法假设一个可靠和无偏的预测环境，这在实际环境中并不总是可用。本文研究了时空流量预测模型的脆弱性，提出了一种实用的对抗时空攻击框架。具体而言，不是同时攻击所有地理分布的数据源，而是提出一种迭代梯度引导的节点显著性方法来识别时间依赖的受害节点集合。此外，设计了一种基于时空梯度下降的方法来生成扰动约束下的实值对抗交通状态。同时，从理论上证明了对抗性流量预测攻击的最差性能界。在两个真实数据集上的广泛实验表明，所提出的两步框架在各种先进的时空预测模型上实现了高达67.8%的性能下降。使用所提出的攻击进行对抗性训练，可以显著提高时空流量预测模型的鲁棒性。 

Methodology

详细介绍了实用的对抗时空攻击框架。具体来说，该框架包括两个步骤:(1)识别时间依赖的受害节点，(2)利用对抗流量状态进行攻击。 

3.1 Identify time-dependent victim nodes