Swin Transformer

论文原文：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

官方开源代码：Swin-Transformer

用于语义分割的官方代码为：Swin-Transformer-Semantic-Segmentation
timm库中的代码和这篇博客中的差不多，参考：图解Swin Transformer

一、timm库中的swin transformer

它的forward_features和forward函数：

• 输入x先经过x = self.patch_embed(x)
• 经过基础块x = self.layers(x)【SwinTransformerBlock类在BasicLayer类中用到了，而PatchMerging类和BasicLayer类也在SwinTransformer类中用到了，所以最后都在SwinTransformer类中的forward中出现了】