Pytorch 实现position embedding位置编码(三)——DETR中的位置编码(2d的绝对位置编码)(PositionEmbeddingSine正余弦位置编码)
DETR的positionembedding是PositionEmbeddingSine(),它就叫做正余弦位置编码,没有PositionEmbeddingCos的写法是借鉴自ImageTransformer,它paper中有说即就是原Transformer的positionembedding的思想,实现也差不多,但是generalizedtoworkonimages,而且考虑了paddingma