时间序列是一种特殊的顺序排列:利用样本卷积和交互进行预测

时间序列是一种特殊的顺序排列:利用样本卷积和交互进行预测_第1张图片

摘要:

时间序列(Time series)是一种特殊类型的顺序排列(Sequence)数据,一组观测数据在均匀的时间间隔内收集,并按年代顺序排列。现有的深度学习技术使用通用序列(Sequence)模型(如循环神经网络、Transformer模型或时间卷积网络)进行时间序列分析,忽略了其一些独特的特性。例如,时间序列数据的下采样往往保留了数据中的大部分信息,而对于一般的顺序排列数据,如文本序列和DNA序列,则不是这样。【即时间序列(Time series)不完全等同于顺序排列的序列(Sequence)】

基于上述动机,本文提出了一种新的神经网络结构,并将其应用于时间序列预测问题,其中我们进行了多分辨率的样本卷积和交互来进行时间建模。所提议的体系结构,即SCINet(sample convolution and interaction),有助于提取具有增强可预测性的特征。实验结果表明,在不同的真实时间序列预测数据集上,SCINet的预测精度显著提高。特别是,它可以在不使用复杂的空间建模技术的情况下,对这些时空数据集实现较高的预测精度。我们的代码和数据在补充材料中。

本文的贡献可以概括如下:
 

1.我们发现现有的时间卷积网络(TCN, temporal convolutional networks)设计原则对时间序列(TSF,Time series forecasting)问题的误解。特别是,我们证明了因果卷积是不必要的,并且通过消除这些约束可以获得更好的预测精度。

时间序列是一种特殊的顺序排列:利用样本卷积和交互进行预测_第2张图片

2.我们提出了一个分层TSF框架,SCINet,基于时间序列数据的独特属性。通过在不同时间分辨率下迭代提取和交换信息,可以学习到具有增强可预测性的有效表示,其相对较低的排列熵(PE)[18]验证了这一点。

3.我们设计了构建SCINet的基本模块SCI-Block,该模块将输入数据/特征提取成两个子序列,然后使用不同的卷积滤波器提取每个子序列的特征,以保留异构信息。为了补偿下采样过程中的信息损失,我们在每个SCI-Block中合并了两个卷积特征之间的交互学习。回复ts37 获取论文pdf文档,及项目源码

时间序列是一种特殊的顺序排列:利用样本卷积和交互进行预测_第3张图片

你可能感兴趣的:(深度学习,神经网络,机器学习)