(2024|ICLR reviewing,Transformer-VQ,自注意力线性计算时间,切片和滑动窗,缓存和迭代)
Transformer-VQ:Linear-TimeTransformersviaVectorQuantization公和众和号:EDPJ(进Q交流群:922230617或加VX:CV_EDPJ进V交流群)目录0.摘要2.基础2.1符号表示2.2向量量化2.3向量量化器和码本2.4向量量化表示学习3.Transformer-VQ3.1二次时间公式3.2预热:线性时间编码器注意力3.3线性时间解码器