Swin

Swin Transformer猫狗分类

前言早上看了一下SwinTransformer的论文，觉得还不错，就看了看代码，还挺简洁。我不说是谁，那么无聊画了一下午用SwinTranformer实现猫狗分类…代码依赖需要下载一个库,在终端运行则不需要前面的英文感叹号!pipinstalltimm将依赖import进来importtorchimporttorchvisionfromtorch.utils.dataimportDataLoade
Andy Dennis·2022-12-25 08:02

swin transformer obect detection复现(CPU+GPU)

代码下载+权重下载（我是在主目录下新建了checkpoints文件下，然后把权重放进去的）condacreate–nstpython=3.8sourceactivatestpipinstalltorch==1.7.1torchvision==0.8.2torchaudio==0.7.2pythonsetup.pyinstallpipinstallopenmimmiminstallmmcv-full
Barry_Qu·2022-12-25 08:54

Swin Transformer基于windows 10复现源码实现图像分类

小编在做毕设过程中也复现了SwinTransformer的源码实现了图像分类模型的预训练，预训练的模型是Swin-T。如果也有想要复现源码的小伙伴，希望小编的这篇小小之作能够在看的读者带来帮助。
时芷_·2022-12-24 11:59

【论文精读 02】Swin Transformer

SwinTransformer——使用移位窗口的层级VisionTransformerICCV2021最佳论文资料参考：https://www.bilibili.com/video/BV1pL4y1v7jC/?spm_id_from=333.788&vd_source=fab4cd66aafcb3b54c4bc627c1dcaac1https://www.bilibili.com/video/BV
不菜不菜·2022-12-24 11:57

swin transformer详解

1.解决问题图像中像素点太多了，如果需要更多的特征就必须构建很长的序列越长的序列注意力的计算肯定越慢，这就导致了效率问题能否用窗口和分层的形式来替代长序列的方法呢？这就是它的本质CNN中经常提到感受野，transformer在分层中进行体现2.整体网络架构得到各Pathch特征构建序列；分层计算attention（逐步下采样过程）其中Block是最核心的，对attention的计算方法进行了改进，
樱花的浪漫·2022-12-24 11:26

精读Swin Transformer

SwinTransformer:Hiaerarchical(层级式)VIsionTransformerusingShiftedWindows(MSRA研究领域的黄埔军校)选自8.17号的更新版本摘要swintransformer用来做计算机视觉领域一个通用的骨干网络,在Vit只做分类任务,下游任务比如检测与分割留给以后的人来探索时,当时大家并不能确定transformer能否把视觉领域所有的任务都
肖屁屁·2022-12-24 11:56

windows11下运行swin-transformer算法

一、背景我们希望使用swin-transformer算法实现物体的分类。
benben044·2022-12-24 11:22

windows系统配置swin transformer环境

由于之前装双系统的时候给ubuntu分配的内存比较小，装了各种环境之后就不够用了，所以想在windows环境下配置swintransformer，本以为是个简单的环境配置，但是出现了各种意外的错误，比如xx._ext找不到，又或者nms不支持GPU，还有一些别的奇奇怪怪的问题。。。一气之下直接重装了CUDA和anaconda，卸载anaconda的时候真是一把鼻涕一把泪，懂的都懂，就不多说了。简单
athrunsunny·2022-12-24 11:52

swin-transformer图像分类测试

本文只阐述博主遇到的问题及其如何解决，仅供参考如何运行代码测试可以参考这篇BlogSwin-Transformer分类源码(已跑通)服务器多个cuda问题由于博主使用的服务器配置了多个cuda，根据swin-transformer
MiHao_YOUNG·2022-12-24 11:21

【SwinTransformer】GitHub源码，main.py，swin_transformer.py...

声明：仅学习使用~“我们抬头便看到星光，星星却穿越了万年”。Contents数据与环境配置解读main.pyswin_transformer.py数据与环境配置解读来看SwinTransformer的github官网。已经开源了。（想不到在家里居然可以直接上GItHub，真好啊！）进去后可以看到如下界面：ImageClassification：图像分类ObjectDetectionandInsta
追光者♂·2022-12-24 11:20

Relative Positional Bias -- [Swin-transformer]

论文中对于这一块的描述不是很清楚，特意记录一下学习过程。这篇博客讲解的很清楚，请参考阅读https://blog.csdn.net/qq_37541097/article/details/121119988以下通过代码形式运行一个demo帮助理解。1.假设window的H，W均为2，首先构造一个二维坐标x=torch.arange(2)y=torch.arange(2)#输入为一维序列，输出两个二
GY-赵·2022-12-23 13:13

从零学习SwinTransformer

HierarchicalVisionTransformerusingShiftedWindows原论文地址：https://arxiv.org/abs/2103.14030官方开源代码地址：https://github.com/microsoft/Swin-Transformer
饿了就干饭·2022-12-23 13:11

【神经网络架构】Swin Transformer细节详解-1

目录源码：1.PatchPartition+LinerEmbedding模块2.SwinTransformerblock(一个完整的W-MSA)partitionwindowsW-MSA相对位置偏差mergewindowsMLP补充(熟悉的话直接看3.PatchMerging)3.PatchMerging(downsample)4.图像分类任务5.待续6.参考图3。(a)SwinTransform
理心炼丹·2022-12-23 12:38

ICCV2021 Best Paper : Swin Transformer (二）

三、Supplement1.RelativePositionBias在SwinTransformer(一)中呢已经结束了主干部分，接下来呢，就是剩余的一些边边角角，不过重要的呢，是对源码的解析。在之前有提到说attention的计算多加了一个，即：我们把这个呢叫做偏置，也称为相对位置偏置RelativePositionBias。那这个RelativePositionBias到底在做一件怎样的事情呢
深度科研·2022-12-23 12:08

如何提高百度网盘速度？！绝对顶？！

百度网盘默认的下载速度大部分是达不到自己想要的速度的，而网盘下载文件是有一个提速功能的，下面小编教你怎么开启这个百度网盘下载速度提升功能工具/原料vivobook14swin1019.0.3百度网盘7.3.2
港城嘟嘟·2022-12-23 11:39

论文阅读——Swin Transformer

SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows1.Motivation2.Contribution3.Method3.1ShiftedWindow**1、基本原理****2、MaskedMSA：****3、关于滑动窗口的自注意力的计算复杂度**3.2Structure3.3SwinTransformer变体4.Exp
猫猫头不写bug·2022-12-23 08:27

李沐精读论文：Swin transformer: Hierarchical vision transformer using shifted windows

论文地址：Swintransformer:Hierarchicalvisiontransformerusingshiftedwindows代码：官方源码pytorch实现SwinTransformerAPI视频：SwinTransformer论文精读【论文精读】_哔哩哔哩_bilibili本文注意参考：SwinTransformer论文精读【论文精读】-哔哩哔哩图解SwinTransformer-
iwill323·2022-12-23 08:50

swin-transformer训练自己的数据集＜自留＞

使用swin-transformer训练自己的数据集前期准备（数据处理）标注数据集一、结构目录二、要修改的地方三、开始训练四、训练过程结果前期准备（数据处理）标注数据集LabelMe---->COCOLabelImg
壹万1w·2022-12-22 23:05

基于mmaction2的Video-Swin-Transformer源码

网络结构图：位置：Video-Swin-Transformer/mmaction/models/backbones/swin_transformer.pyimporttorchimporttorch.nnasnnimporttorch.nn.functionalasFimporttorch.utils.checkpointascheckpointimportnumpyasnpfromtimm.mo
cv_我emo了·2022-12-22 18:19

Swin_transformer网络

#打印出来的网络结构ft_net_swin((model):SwinTransformer((patch_embed):PatchEmbed((proj):Conv2d(3,128,kernel_size
多笑一笑啊·2022-12-22 18:47

pytorch中如何给网络添加mask

需要补齐长度，但在计算attention时会将补齐位置mask掉从而不参与attention计算；mask相关的预训练任务，如MLM、MAE等，需要mask掉被遮盖的token，以完成预测的预训练任务；swin
ygfrancois·2022-12-22 05:17

Swin Transformer目标检测—训练自己数据集

Conda虚拟环境（3）安装mmcv（4）安装mmdetection（5）安装apex二、工程修改三、踩坑记录一、环境配置Code：https://github.com/SwinTransformer/Swin-Transformer-Object-Detection
七分熟少女·2022-12-22 04:45

Swin-Transformer

HierarchicalVisionTransformerusingShiftedWindows论文地址：https://arxiv.org/abs/2103.14030代码链接：https://github.com/microsoft/Swin-Transformer
唐小星小宇宙·2022-12-21 07:02

Swin-Transformer图像分类

文章目录1.准备数据集1.1数据集存放格式1.2config配置文件2.训练2.1代码中调整了的部分2.2训练命令3.评估4.推理4.1推理脚本4.2推理命令4.3推理结果源代码地址：Swin-Transformer
咚咚锵咚咚锵·2022-12-20 14:36

Linux系统搭建MMdetection(Swin-Transformer)环境

目录开始安装创建conda虚拟环境安装pytorch(重要）安装mmcv-full（极易出错）下载MMDetection仓库安装依赖官方教程网址，点击get_started官方教程地址，获取最新安装方式开始安装创建conda虚拟环境在控制台依次输入下列代码，创建名为open-mmlab的虚拟环境，并激活condacreate-nopen-mmlabpython=3.7-ycondaactivate
PLANET_ME·2022-12-19 17:08

Swin Transformer实战： timm使用、Mixup、Cutout和评分一网打尽，图像分类任务

摘要本例提取了植物幼苗数据集中的部分数据做数据集，数据集共有12种类别，演示如何使用timm版本的SwinTransformer图像分类模型实现分类任务已经对验证集得分的统计，本文实现了多个GPU并行训练。通过本文你和学到：1、如何从timm调用模型、loss和Mixup？2、如何制作ImageNet数据集？3、如何使用Cutout数据增强？4、如何使用Mixup数据增强。5、如何实现多个GPU训
Dove_1234·2022-12-17 11:42

SwinIR实战：如何使用SwinIR和预训练模型实现图片的超分

github.com/cszn/KAIR测试：https://github.com/JingyunLiang/SwinIR预训练模型下载：https://github.com/JingyunLiang/Swin
奥比中光3D视觉开发者社区·2022-12-17 08:44

[ICCV2021]Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

标题：SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows链接：https://arxiv.org/pdf/2103.14030动机现在在CV中使用transformer的最大问题是运算量太大，因为图片的信息量远远大过NLP中文本的信息量，然后再做selfattention会导致N平方的复杂度，这是不可以接受的，因此如何减
深蓝蓝蓝蓝蓝·2022-12-17 07:37

Swin Transformer：Hierarchical Vision Transformer using Shifted Windows——论文分析

一、摘要挑战：物体尺寸差异和高分辨率Transformer可以用作一个通用的网络，而不像ViT那样只用于分类。如上图，ViT全局建模，始终处理的是16倍下采样之后的特征，不适合密集预测型任务。SwinTransformer为了减少序列长度，在小窗口内做自注意力，用了locality的归纳偏置，节省资源。patchmerging，相邻小patch合成大patch，类似池化。如上图，在l层加上shif
gongyuandaye·2022-12-17 07:59

论文阅读【Swin Transformer: Hierarchical Vision Transformer using ShiftedWindows】

SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows发表：2021ICCVidea：主要是想改进transformer在视觉方向的速度。transformer从nlp到cv的挑战：这两个领域之间的差异，比如视觉实体的规模差异很大，图像中的像素与文本中的单词相比分辨率较高。之前的方法在分块中有重叠，导致性能不高，所以作者提出
hei_hei_hei_·2022-12-17 07:24

论文解析[9] Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

发表时间：2021论文地址：https://arxiv.org/abs/2103.14030代码地址：https://github.com/microsoft/Swin-Transformer文章目录摘要
默_silence·2022-12-17 07:22

大比分领先！ACCV 2022 国际细粒度图像分析挑战赛冠军方案

例如，在数据清洗方面我们去掉二义性的图片；模型选择和方法方面我们使用了ViT-L和Swin-v2；为了提高实验效率，方便整个实验过程的管理，我们基于MMSelfSup和MM
OpenMMLab·2022-12-16 10:39

2022.8.1JETSON AGX XAVIER 安装ZED2+Python API+ROS+zed ros wrapper

前言(7条消息)2022.7.27JETSONAGXXAVIER刷机+挂载sd卡+跑Swin-Transformer-Object-Detection。
田木子0322·2022-12-16 03:45

关于vit的预研

1图片分类网络ViT、MobileViT、Swin-Transformer、MobileNetV3、ConvNeXt、EfficientNetV22极智AI|详解ViT算法实现_wx621f3bb1e27ee
爱CV·2022-12-15 12:44

ViT论文逐段精读【论文精读】-跟李沐学AI

CV任务刷榜paperwithcode网站霸榜ImageNet（基于ViT）和COCO,目标检测（Swin
MT_Joy·2022-12-15 06:29

论文阅读笔记：Swin-Transformer

1.Swin-TransformerLiu,Ze,etal.
loki2018·2022-12-14 14:28

Swin-Transformer论文笔记

2021ICCV最佳论文：SwinTransformer:HierarchicalVisionTransformerusingShiftWindowsarxiv摘要：本文介绍了一种新的视觉Transformer，称为SwinTransformer，它可以作为计算机视觉的通用主干。将Transformer从语言应用到视觉的挑战来自两个领域之间的差异，例如视觉实体规模的巨大变化以及与文本中的文字相比图
滴嘟滴嘟dzj·2022-12-14 14:25

文献阅读-基于 CNN-Swin Transformer Network 的 LPI 雷达信号识别

1、信号识别方法①时频图像+CNN，以信号调制识别②时频分析+CNN，特征提取与分类③小波变换+残差网络，实现调制信号识别④短时傅里叶+GoogleNet/AlexNet，实现调制信号识别⑤时频分析+改进AlexNet，实现调制信号识别⑥扩张残差网络+时频分析，实现辐射源分类CNN缺陷：不擅长捕捉全局信息，感受野受限，对信噪比要求较高相比于CNN模型的不变性和局部性，特征之间依赖关系差，Trans
ZDA2022·2022-12-14 06:21

SwinIR: Image Restoration Using Swin Transformer论文阅读

代码Swinir:Imagerestorationusingswintransformer摘要：图像恢复是低水平视觉问题。目前大多图像恢复方法都是基于cnn，至于在高级视觉任务领域大放光彩的Transformer却很少使用。所以本文主要是基于Swintransformer建立了一个基准模型。这个模型包含三个部分：浅层特征提取、深层特征提取、图像重建。特别是，深度特征提取模块由几个残差Swintra
南妮儿·2022-12-14 06:20

Congested Crowd Instance Localization with Dilated Convolutional Swin Transformer

提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录CongestedCrowdInstanceLocalizationwithDilatedConvolutionalSwinTransformer摘要I.INTRODUCTIONA.MotivationB.ContributionsC.OrganizationII.RELATEDWORKSA.CrowdLocalization
ZZE15832206526·2022-12-14 06:20

图像分割（三）—— Swin-Unet: Unet-like Pure Transformer for Medical Image Segmentation

swin-unetsAbstractIntroductionMethod3.1Architectureoverview3.2SwinTransformerblockAbstract在过去的几年中，卷积神经网络
黑洞是不黑·2022-12-14 06:50

继 Swin Transformer 之后，MSRA 开源 Video Swin Transformer，在视频数据集上SOTA

关注公众号，发现CV技术之美继上半年分享的『基于Transformer的通用视觉架构：Swin-Transformer带来多任务大范围性能提升』、『SwinTransformer为主干，清华等提出MoBY
我爱计算机视觉·2022-12-14 06:19

文献阅读（59）CVPR2021-Swin Transformer-Hierarchical Vision Transformer using Shifted Windows

本文是对《SwinTransformer-HierarchicalVisionTransformerusingShiftedWindows》一文的浅显翻译与理解，如有侵权即刻删除。更多相关文章，请移步：文献阅读总结：计算机视觉文章目录Title总结1整体框架2移动窗口Title《SwinTransformer-HierarchicalVisionTransformerusingShiftedWin
学徒刘猛·2022-12-14 06:47

经典文献阅读之--Swin Transformer

0.简介Transfomer最近几年已经霸榜了各个领域，之前我们在《经典文献阅读之–DeformableDETR》这篇博客中对DETR这个系列进行了梳理，但是想着既然写了图像处理领域的方法介绍，正好也按照这个顺序来对另一个非常著名的SwinTransformer框架。SwinTransformer框架相较于传统Transformer精度和速度比CNN稍差，SwinTransformer可以说是CN
敢敢のwings·2022-12-14 06:43

BERT大火却不懂Transformer？

前段时间Transformer已席卷计算机视觉领域，并获得大量好评，如『基于Swin-Transformer』、『美团提出具有「位置编码」的Transformer，性能优于ViT和DeiT』、『LiftingTransformer
计算机视觉研究院·2022-12-14 01:47

Swin Transformer中的PatchEmbed原理及代码说明

1.分块patchpartitionuseapatchsizeof4×4andthusthefeaturedimensionofeachnpatchis4×4×3=48在这里设置了4×4×3的块的大小，原始图像被分成维度为4×4×3=48的小块。2.线性编码linearembeddingAlinearembeddinglayerisappliedonthisraw-valuedfeaturetop
白话先生·2022-12-13 18:13

Swin Transformer之PatchMerging原理及源码

1.图示2.原理PatchMerging层进行下采样。该模块的作用是做降采样，用于缩小分辨率，调整通道数进而形成层次化的设计，同时也能节省一定运算量。在CNN中，则是在每个Stage开始前用stride=2的卷积/池化层来降低分辨率。patchMerging是一个类似于池化的操作，但是比Pooling操作复杂一些。池化会损失信息，patchMerging不会。每次降采样是两倍，因此在行方向和列方向
白话先生·2022-12-13 18:41

Swin Transformer进行语义分割，Ubuntu系统，解决RuntimeError: one of the variables needed for gradient computation

1、问题描述最近在用SwinTransformer做语义分割的任务，基本的配置环境参考的是GitHub的基础安装步骤，主要的是环境的配置问题，mmcv的配置要求，不允许高于1.4.0，所以，在train.py文件进行训练运行的时候，报错：RuntimeError:oneofthevariablesneededforgradientcomputationhasbeenmodifiedbyaninpl
hacker_NO_007·2022-12-13 17:48

Win10下 Swin Transformer目标检测环境配置流程

Win10下Swin-Transformer目标检测环境；对于第一次配置mmdetection的同学可能有所帮助。
炼丹去了·2022-12-13 13:02

Transformer主干网络——Swin保姆级解析

前言论文地址：arxiv代码地址：github接收单位：ICCV2021best系列文章Transformer主干网络——ViT保姆级解析Transformer主干网络——DeiT保姆级解析Transformer主干网络——T2T-ViT保姆级解析Transformer主干网络——TNT保姆级解析Transformer主干网络——PVT_V1保姆级解析Transformer主干网络——PVT_V2
只会git clone的程序员·2022-12-12 21:19
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他