SinusoidalPositionalEmbedding/tensor2tensor中实现的绝对位置编码
一、目录代码二、实现代码importtorch.nnasnnimportmathimporttorchfromtypingimportOptional,AnyclassSinusoidalPositionalEmbedding(nn.Embedding):"""Thismoduleproducessinusoidalpositionalembeddingsofanylength.Wedon'twa