论文笔记:CROSSFORMER: TRANSFORMER UTILIZING CROSSDIMENSION DEPENDENCY FOR MULTIVARIATE TIME SERIES FOREC
ICLR20231intro1.1motivation之前用Transformer预测时间序列的工作,大多集中在建模时间维度的关系上。利用时间维度的自注意力机制,建立不同时间步之间的关系而在多元时间序列预测中,各个变量之间的关系也很重要。之前的模型,主要是将每个时间步的多元变量压缩成一个embedding,再进行时间维度的attention。这种方法的问题是缺少对不同变量之间关系的建模,直接每个时