swinTransformer 第8页

【超分辨率】略读21年超分SOTA新算法——SwinIR

深度特征提取是由几个残差的SwinTransformer块（RSTB）组成，并且整体有一个残差连接。要点2网络结构如下：SR任务训练时损失函数采用L1损失，对于图像去噪和JPEG压缩伪影重建任务上，使

几维wk·2022-11-02 16:54

J Cheminform2022 | SwinOCSR+：基于Swin Transformer的end-to-end光学化学结构识别

使用Swintransformer作为backbone，提取图像特征，并引入Transformer，将提取到的的化学信息转换为

羊飘·2022-10-25 07:26

Vision Transformer打卡营来啦！朱欤博士带你从零玩转ViT爆款模型！

Transformer自2017年被提出后，从横扫NLP领域的风光无二，到陷入一片对其在CV任务有效性的质疑声中，再到不久前在多项图像任务中显示出直逼CNN的优异性能以及ICCV2021bestpaper：SwinTransformer

飞桨PaddlePaddle·2022-10-23 07:43

ICCV 2021 | Swin transformer: Hierarchical vision transformer using shifted windows 阅读笔记

Swintransformer:HierarchicalvisiontransformerusingshiftedwindowsAuthorUnit:1^11MicrosoftResearchAsia2

ybacm·2022-10-18 14:08

《Swin Transformer: Hierarchical Vision Transformer using Shifted Windows》论文笔记

论文链接：https://arxiv.org/abs/2103.14030ICCV-2021最佳论文，swintransformer当之无愧。

#苦行僧·2022-10-18 14:38

Swin Transformer论文学习笔记

《SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows》使用移动窗口的层级式视觉Transformer文章目录前言模型方法移动窗口整体架构提升移动窗口计算效率方法参考前言存在的问题

一云烟雨·2022-10-18 14:06

CV学习——day32 读论文：顶会ICCV · 会议CV——2021 Swin Transformer

会议CV——（2021ICCV）SwinTransformer：HierarchicalVisionTransformerusingShiftedWindows请对照论文观看笔记chap11）现有问题：

想太多!·2022-10-11 14:15

Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

动机：为啥挑这篇文章，因为效果炸裂，各种改款把各种数据集霸榜了：语义分割/分类/目标检测，前10都有它SwinTransformer,thatcapablyservesasageneral-purposebackboneforcomputervision

64318@461·2022-10-10 07:35

论文精读：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

Abstract本文提出了一种新的visionTransformer，称为SwinTransformer，它能够作为计算机视觉的通用骨干网络。

樱花的浪漫·2022-10-10 07:08

swin transformer、yolov5和deepsort的环境配置

目录一、软件安装1、VS20192、Anaconda3、Pycharm4、CUDAv10.2二、依赖库安装三、swintransformer中需要本地编译的依赖库1、mmcv2、mmdet3、apex四

﹏荒度余生€·2022-10-10 07:56

粗读DS-TransUNet: Dual Swin Transformer U-Net for Medical Image Segmentation

TIF模块如图所示，就是把对方的特征图进行平均池化，然后作为加到对方拉平后的特征图尾部，进行transformer计算同时，swintransformer部分如上图所示，attention模块不

格里芬阀门工·2022-10-10 07:00

大大刷新记录！Swin Transformer v2.0 来了，30亿参数！

关注公众号，发现CV技术之美本文转载自微软研究院AI头条编者按：2021年，获得ICCV最佳论文奖的SwinTransformer，通过在广泛的视觉问题上证明Transformer架构的有效性，加速了计算机视觉领域基本模型架构的变革

我爱计算机视觉·2022-10-10 07:15

[Transformer] Swin Transformer V2: Scaling Up Capacity and Resolution

/arxiv.org/pdf/2111.09883.pdf代码：GitHub-microsoft/Swin-Transformer:Thisisanofficialimplementationfor"SwinTransformer

Cherry_qy·2022-10-05 12:08

Swin transformer图像分类

model"""SwinTransformerAPyTorchimplof:`SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows

H A I·2022-10-05 12:34

我对Swin Transformer V2的理解

通过提升模型容量与输入分辨率，SwinTransformer在四个代表性基准数据集上取得了新记录。2.要解决的问题视觉模型通常面临尺度不稳定问题；下游任务需要高分辨率图像，尚不明确如何

像梦一样自由al·2022-10-05 12:28

Swin Transformer V2！MSRA原班人马提出了30亿参数版本的Swin Transformer！

点击上方“计算机视觉工坊”，选择“星标”干货第一时间送达作者丨小马来源丨我爱计算机视觉【写在前面】在本文中，作者提出了将SwinTransformer缩放到30亿个参数的技术，并使其能够使用高达1536

Tom Hardy·2022-10-05 12:28

Swin Transformer理解

当然笔记也尽可能解释清楚1核心参考①B站跟李沐学AI②SwinTransformer论文精读【论文精读】友情提示：看完笔记，还需要阅读原文，去看代码，才会有大的收获。

CinzWS·2022-09-27 16:50

【图像分类】Swin Transformer理论解读+实践测试

前言SwinTransformer是2021年微软研究院发表在ICCV上的一篇文章，问世时在图像分类、目标检测、语义分割多个领域都屠榜。

zstar-_·2022-09-25 07:35

Swin Transformer 代码学习笔记(目标检测)

源码地址：GitHub-SwinTransformer/Swin-Transformer-Object-Detection:Thisisanofficialimplementationfor"SwinTransformer

athrunsunny·2022-09-25 07:26

Swin Transformer 做主干的 RetinaNet 目标检测网络（mmdetection）

文章目录一、环境与工程二、SwinTransformerRetinaNet网络代码三、数据集四、训练模型五、测试训练效果B站视频教程合集地址：SwinTransformer做主干的RetinaNet目标检测网络

Beyonderwei·2022-09-25 07:22

【目标检测/实例分割】Mask R-CNN简介与Swin Transformer实践测试

前言之前在看SwinTransformer的时候，发现该算法在目标检测、实例分割等各种视觉任务上屠榜，于是想来实践测试一下。

zstar-_·2022-09-25 07:20

Transformer变种—Swin Transformer

论文名称：SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows原论文地址：https://arxiv.org/abs/2103.14030

思艺妄为·2022-09-16 07:17

检测分割算法改进(篇五) 引入Swin Transformer做检测网络Backbone

检测算法通常包括Backbone、Neck、Head等结构，屠榜的SwinTransformer当然也是可以被作为Backbone的，如下图所示：在撸代码之前，需要对Swin-Transformer的各个模块有清晰的了解

@会飞的毛毛虫·2022-09-04 08:14

学习汇报汇报

内容一、DEFECTNET:MULTI-CLASSFAULTDETECTIONONHIGHLY-IMBALANCEDDATASETS二、SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows

ZZE15832206526·2022-09-01 07:13

Swin Transformer原理（新手入门级理解）

目录前言1、SwinTransformer简介2、SwinTransformer模型原理2.1SwinTransformer模型整体框架2.2基于窗口的自注意力计算2.3基于移动窗口的自注意力计算2.4PatchMerging

时芷_·2022-08-29 07:46

YOLO v5加入注意力机制、swin-head、解耦头部（回归源码）

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录YOLOv5加入注意力机制、swin-head、解耦头部（回归源码）一、YOLOv5简介二、全局注意力机制的引入三、引入SwinTransformer_Layer

磊二磊的BLUE·2022-08-23 10:25

何恺明团队新作：只用普通ViT，不做分层设计也能搞定目标检测

点击上方“视学算法”，选择加"星标"或“置顶”重磅干货，第一时间送达鱼羊发自凹非寺量子位|公众号QbitAI微软的SwinTransformer去年横空出世，一举突破了Transformer做视觉任务复杂度过高的问题

视学算法·2022-08-12 15:44

ViT（Vision Transformer）原理与代码精讲

ViT(VisionTransformer)是Transformer应用于CV（计算机视觉）领域里程碑式的工作，后面发展出更多的变体，如SwinTransformer。ViT(VisionTransf

bai666ai·2022-08-07 07:41

卷积核越大性能越强？一文解读RepLKNet模型

在VisionTransformer(ViT)流行的大背景下，RepLKNet以纯CNN的架构获得了超过SwinTransformer(Top-1acc:87.3%)的性能。今天就来深入解

飞桨PaddlePaddle·2022-08-02 12:20

ICCV 2021 的最佳论文模型 Swin Transformer 终于对视频下手了！

出品人：Towhee技术团队在去年SwinTransformer获得ICCV2021最佳论文后，微软亚洲研究院又在今年推出了视频领域的佳作VideoSwinTransformer。

·2022-07-14 17:22

Vision Transformer太火！这门开源课也火了！十小时现场coding带你玩转ViT 爆款SOTA算法！...

Transformer自2017年被提出后，从横扫NLP领域的风光无二，到陷入一片对其在CV任务有效性的质疑声中，再到不久前在多项图像任务中显示出直逼CNN的优异性能以及ICCV2021bestpaper：SwinTransformer

我爱计算机视觉·2022-06-28 07:53

经典论文阅读笔记——VIT、Swin Transformer、MAE、CILP

主要是VIT、SwinTransformer、MAE、CILP这四篇。有一句话说的很有道理，因此放在这篇博客最前面。为什么NLP领域的预训练模型很好用，但是图像领域的预训练模型就很一般？

gailj·2022-06-28 07:39

预约直播 | 主流的视觉算法及在PAI上的应用

在此基础上将会介绍这些算法在机器学习平台PAI开源的EasyCV视觉算法框架中的实现和应用，以一个实际的图像分类任务为例，使用当前效果SOTA的SwinTransformer进行模型

·2022-06-27 10:51

华为诺亚ViG架构媲美CNN、Transformer，图神经网络也能用作CV骨干模型

在ImageNet图像识别任务，ViG在相似计算量情况下Top-1正确率达82.1%，高于ResNet和SwinTransformer。

tt姐·2022-06-27 07:24

基于PIE-Engine AI的UperNet-SwinTransformer模型上传实践——以光伏目标提取为例

PIE-EngineAI介绍PIE-EngineAI是航天宏图自主研发的一站式遥感图像智能解译服务云平台。该平台结合空间信息技术和人工智能技术，将深度学习理论与遥感解译实践进行融合，全方位提升遥感数据智能化处理和解译分析能力。可为用户提供实时、精准、高效的遥感图像在线智能解译服务，包括遥感地物语义分割、目标检测、变化监测等应用方向。本文以0.3m分辨率影像光伏目标提取为例，介绍了如何将本地训练的U

PIE-Engine·2022-06-11 07:25

【Swin Transformer】Win10使用Swin Transformer做语义分割 (使用自己的数据集 + 图解超详细)

Win10使用SwinTransformer做语义分割(使用自己的数据集+图解超详细)Swin-Transformer-Semantic-SegmentationSwinTransformer做语义分割的代码地址如下

零碎@流年絮语·2022-06-09 07:27

使用动图深入解释微软的Swin Transformer

SwinTransformer（Liuetal。，2021）是一个基于Transformer的深度学习模型，在视觉任务中取得了最先进的性能。

·2022-05-24 12:20

A ConvNet for the 2020s 原理分析与解读

前言转载于：VisionTransformer,VisionMLP超详细解读(原理分析+代码解读)(目录)-知乎VisionMLP超详细解读(原理分析+代码解读)(四)-知乎ConvNeXt可以看做是把SwinTransformer

m0_61899108·2022-05-22 07:24

【深度学习】CVPR 2022|从原理和代码详解FAIR的惊艳之作：全新的纯卷积模型ConvNeXt...

作者丨科技猛兽编辑丨极市平台导读ConvNeXt可以看做是把SwinTransformer包括ViT的所有特殊的设计集于一身之后的卷积网络进化版，升级了ResNet架构，看看借助了2020年代CV设计范式之后的卷积网络的性能极限在哪里

风度78·2022-05-22 07:46

Swin Transformer V2: Scaling Up Capacity and Resolution

摘要在本文中，作者提出了将SwinTransformer缩放到30亿个参数的技术，并使其能够使用高达1536×1536分辨率的图像进行训练。

与光i·2022-05-19 09:43

当Swin Transformer遇上DCN，效果惊人！

一方面，使用密集注意力（例如ViT）会导致过多的内存和计算成本，并且特征可能会受到超出兴趣区域的无关部分的影响；另一方面，PVT或SwinTransformer中采用的稀疏注意力与数据无关，可能会限制对远程

深度学习技术前沿·2022-05-05 07:01

Swin Transformer论文解读

文章目录创新点算法PatchMergingW-MSASW-MSA位置偏置结构变体实验ImageNet分类COCO目标检测ADE20K语义分割消融实验结论论文：《SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows

‘Atlas’·2022-05-05 07:47

Swin Transformer V2论文解读

文章目录创新点算法SwinTransformer放大模型能力放大window分辨率GPU内存消耗优化引入自监督方法模型实验图像分类目标检测语义分割视频行为分类消融实验结论论文：《SwinTransformerV2