SWIN

2022.7.20 JETSON NANO 2GB 跑Swin-Transformer-Object-Detection。（配置：UBUNTU18/PYTHON3.6/PYTORCH1.6.0...）

装机1.镜像文件下载链接（下载速度波动，普遍较慢）https://developer.download.nvidia.com/embedded/L4T/r32_Release_v7.1/JP_4.6.1_b110_SD_Card/Jetson_Nano_2GB/jetson-nano-2gb-jp461-sd-card-image.zip?RD-7BbE2qYSCqxo1YxGkAfCslPzJx
田木子0322·2022-07-29 07:03

2022.7.27 JETSON AGX XAVIER刷机+挂载sd卡+跑Swin-Transformer-Object-Detection。（PYTHON3.6/PYTORCH1.6.0..）

前言(2条消息)2022.7.20JETSONNANO2GB跑Swin-Transformer-Object-Detection。
田木子0322·2022-07-29 07:20

ICCV 2021 的最佳论文模型 Swin Transformer 终于对视频下手了！

出品人：Towhee技术团队在去年SwinTransformer获得ICCV2021最佳论文后，微软亚洲研究院又在今年推出了视频领域的佳作VideoSwinTransformer。VideoSwinTransformer模型在CVPR2022中性能屠榜，在动作识别和时序建模任务上都优于ViViT、TimeSformer等网络！该模型在Kinetics-400上的准确率为84.9%top-1，在So
·2022-07-14 17:22

Visual Attention Network

由于Transformer自身强大的建模能力，自Vit将Transformer引入CV以来，基于Transformer的backbone，如swin-Transformer等迅速占据了各种任务的排行榜。
名字不如叫摸鱼·2022-07-12 07:36

深度网络设计技巧(五)之VAN：Visual Attention Network#超越Swin的纯CNN#

单位：清华，南开（程明明团队）ArXiv：https://arxiv.org/abs/2202.09741Github:https://github.com/Visual-Attention-Network导读：今天了解一个卷积的新操作，即解耦卷积。说是新，其实旧，比如MobileNet为了高效率地推断，将一个标准的CNN看成一个Depth-wiseCNN和Point-wiseCNN，即解耦。本篇
烧技湾·2022-07-12 07:16

Swin-Unet: Unet-like Pure Transformer forMedical Image Segmentation 医疗图像分割阅读笔记

作者在华为实习所写代码:GitHub-HuCaoFighting/Swin-Unet:Thecodesforthework"Swin-Unet:Unet-likePureTransformerforMedicalImageSegmentation
山城火锅有点甜·2022-07-08 07:32

Swin Transformer网络架构、相应改进模块的理解

swin-TransformerTransformer越来越火，个人感觉基于Transformer来做视觉真是把矩阵用得出神入化！！
liiiiiiiiiiiiike·2022-07-05 07:10

基于Transformer的通用视觉架构：Swin-Transformer带来多任务大范围性能提升

将Transformer引入视觉领域后，研究人员们一直在寻求更好的模型架构来适应视觉领域的通用任务。但将Transformer从NLP领域迁移到CV领域面临着众多挑战，与文本相比图像中的视觉实体尺度变化剧烈、图像分辨率很高，带来了多尺度建模与计算量巨大的严峻问题。为了解决这些问题，研究人员提出了一种基于移动窗格和层级表达的通用架构。移动窗口将自注意力限制在一定范围内大幅度削减了计算量，同时也使得非
我爱计算机视觉·2022-07-05 07:17

Swin—UNet代码学习（pytorch）

model流程学习：self.swin_unet=SwinTransformerSys(img_size=config.DATA.IMG_SIZE,patch_size=config.MODEL.SWIN.PATCH_SIZE
砸吧砸吧·2022-06-28 08:30

Why Transformer works

在近年来计算机视觉领域中，transformer似乎全面超越CNN，在各种任务上SotA，特别是swin[1]出来以后。然而有一个问题值得我们去思考，transformer的优势在哪里？
江南烟雨尘·2022-06-28 07:06

经典论文阅读笔记——VIT、Swin Transformer、MAE、CILP

  本博客针对视觉Transformer方面的工作，对当前热点研究做一下总结。主要是VIT、SwinTransformer、MAE、CILP这四篇。  有一句话说的很有道理，因此放在这篇博客最前面。为什么NLP领域的预训练模型很好用，但是图像领域的预训练模型就很一般？这因为我们在NLP领域中找到了非常棒的pretexttask（代理任务），比如回想一下bert，我们需要理解一句话的意思，知道语义信
gailj·2022-06-28 07:39

基于EasyCV复现ViTDet：单层特征超越FPN

而ViTDet进一步改进了一些设计，证明了ViT作为backone的检测模型可以匹敌基于FPN的backbone(如Swin
·2022-06-21 10:39

CVPR 2022 | RepLKNet：采用31×31大kernel的CNN网络，性能超越Swin Transformer

ScalingUpYourKernelsto31x31:RevisitingLargeKernelDesigninCNNspaper:https://arxiv.org/pdf/2203.06717.pdfcode:https://github.com/megvii-research/RepLKNet该篇论文论述了卷积核的kernelsize可以选择多大。25x25就很好，31x31甚至更好。清华
xdhe1216·2022-06-15 12:15

GreenMiM：接地气的MiM，强强联合Swin Transformer和何凯明的MAE，没有大显卡也能跑起来

ArXiv:https://arxiv.org/abs/2205.13515OpenCode:https://github.com/layneh/greenmim摘要这篇文章提出了一种针对MiM（Maskedimagemodeling，遮挡图像建模）采用分层ViT如SwinT的有效方法，允许分层ViT丢弃掩码块只在可见图像块上操作。这个方法包含两个关键组成：第一，对于窗口注意力，设计了组窗口注意力
烧技湾·2022-06-14 10:35

Swin Transformer（ICCV2021 Best Paper）：分层简洁性能高效的Transformer

链接:https://arxiv.org/abs/2103.14030目录摘要1Introduction2相关工作3方法3.1总体架构3.2基于移位窗口的自注意力3.3架构变体ArchitectureVariants总结摘要例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。这篇文章提出了一个新的视觉Transformer，叫做S
烧技湾·2022-06-14 10:33

Swin-Transformer中MSA和W-MSA模块计算复杂度推导（非常详细，最新）

在Swin-Transformer一文中，有这样两个公式，分别为：1.Transformer中提出的Multi-headSelf-Attention模块（MSA）2.Swin-Transformer中提出的
小周_·2022-06-12 09:22

Java实现简单小画板

;importjava.awt.Graphics;importjavax.imageio.ImageIO;importjavax.print.DocFlavor.STRING;importjavax.swin
·2022-06-10 19:04

【Swin Transformer】Win10使用Swin Transformer做语义分割 (使用自己的数据集 + 图解超详细)

Win10使用SwinTransformer做语义分割(使用自己的数据集+图解超详细)Swin-Transformer-Semantic-SegmentationSwinTransformer做语义分割的代码地址如下
零碎@流年絮语·2022-06-09 07:27

Swin_Transformer源码解读

LinearEmbedding3.PatchMerging4.windowattention4.1划分window4.2.相对位置编码4.3.window_attn5.shiftwindowattn网络总结前言 本文记录下swin_transformer
武乐乐~·2022-06-02 13:34

PyTorch深度学习（25）网络结构ConvNeXt

abs/2201.03545一、改进点随着技术的不断发展，各种新的架构及优化策略促使Transformer拥有更好的效果相同策略训练卷积神经网络以ResNet-50为基准1、Macrodesign（1）Swin-T
JYliangliang·2022-05-30 16:54

使用动图深入解释微软的Swin Transformer

SwinTransformer（Liuetal。，2021）是一个基于Transformer的深度学习模型，在视觉任务中取得了最先进的性能。与VIT不同SwinTransformer更加高效并且有更高的精度。由于SwinTransformer的一些特性，现在许多视觉的模型体系结构中，SwinTransformers还是被用作模型的骨干。本文旨在使用插图和动画为SwinTransformers提供全
·2022-05-24 12:20

卷积网络重新反超 Transformer，ConvNeXt：A ConvNet for the 2020s

AConvNetforthe2020sPaper:https://arxiv.org/pdf/2201.03545.pdfCode:https://github.com/facebookresearch/ConvNeXt本文的主要思想是，将Swin-Transformer
Phoenixtree_DongZhao·2022-05-22 07:06

A ConvNet for the 2020s 论文解读

目录引言一、Swin-Transform的介绍1.1、Swin-transform背景介绍1.2、CNN网络的反击1.2.1、Depth-wiseconv反击1.2.2、ConvNext二、ResNet
qq_42105426·2022-05-22 07:58

java扫雷教程_java实现简单扫雷

importjava.awt.event.MouseEvent;importjava.awt.event.MouseListener;importjavax.swing.JButton;importjavax.swin
Marco Liu·2022-05-20 10:46

Swin Transformer V2: Scaling Up Capacity and Resolution

摘要在本文中，作者提出了将SwinTransformer缩放到30亿个参数的技术，并使其能够使用高达1536×1536分辨率的图像进行训练。通过扩大容量和分辨率，SwinTransformer在四个具有代表性的视觉基准上创造了新的记录：ImageNet-V2图像分类的84.0%top-1准确度，COCO目标检测上的63.1/54.4box/maskmAP，ADE20K语义分割的59.9mIoU，以
与光i·2022-05-19 09:43

使用PyTorch复现ConvNext：从Resnet到ConvNext的完整步骤详解

ConvNext论文提出了一种新的基于卷积的架构，不仅超越了基于Transformer的模型（如Swin），而且可以随着数据量的增加而扩展！今天我们使用Pytorch来对其进行复现。
·2022-05-09 12:36

论文阅读 - Video Swin Transformer

文章目录1概述2模型介绍2.1整体架构2.1.1backbone2.1.2head2.2模块详述2.2.1PatchPartition2.2.23DPatchMerging2.2.3W-MSA2.2.4SW-MSA2.2.5RelativePositionBias3模型效果参考资料1概述VisionTransformer是transformer应用到图像领域的一个里程碑，它将CNN完全剔除，只使用
zjuPeco·2022-05-05 07:05

当Swin Transformer遇上DCN，效果惊人！

来源：机器之心Transformer近来在各种视觉任务上表现出卓越的性能，感受野赋予Transformer比CNN更强的表征能力。然而，简单地扩大感受野会引起一些问题。一方面，使用密集注意力（例如ViT）会导致过多的内存和计算成本，并且特征可能会受到超出兴趣区域的无关部分的影响；另一方面，PVT或SwinTransformer中采用的稀疏注意力与数据无关，可能会限制对远程（longrange）关系
深度学习技术前沿·2022-05-05 07:01

Swin Transformer测试过程

整体结构由四部分构成：backbone、neck、rpn_head、roi_head。可以选择Mask-Rcnn和cascade-cnn两种结构，如图1左上角1.backbone由四个BasicLayer组成，包含blocks和downsample两个结构。blocks中包含若干个基本transformer模块，downsample负责下采样。以输入图象（3，800，1216）为例，首先经过pat
杀生丸变大叔了·2022-05-05 07:49

Swin Transformer论文解读

语义分割消融实验结论论文：《SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows》代码：https://github.com/microsoft/Swin-Transformer
‘Atlas’·2022-05-05 07:47

Swin Transformer V2论文解读

内存消耗优化引入自监督方法模型实验图像分类目标检测语义分割视频行为分类消融实验结论论文：《SwinTransformerV2:ScalingUpCapacityandResolution》代码：https://github.com/microsoft/Swin-Transformer
‘Atlas’·2022-05-05 07:47

SwinIR_Image Restoration Using Swin Transformer论文阅读分享

而本篇文章主要就是基于Swin_transformer做的，本方法命名为SwinIR。该方法包含三个部分：浅层特征提取器、
halo_wm·2022-05-05 07:13

【Transformer】Swin Transformer

3.2ShiftedWindowbasedSelf-Attention3.3ArchitectureVariants四、效果五、代码分类代码：https://github.com/microsoft/Swin-Transformer
呆呆的猫·2022-05-05 07:38

Swin Transformer做主干的 YOLOv3 目标检测网络（mmdetection）

文章目录一、环境与工程二、SwinTransformerYOLO3网络代码三、数据集四、训练模型五、测试训练效果B站视频教程合集地址：SwinTransformer做主干的YOLOv3目标检测网络（mmdetection）一、环境与工程参考上一节：SwinTransformer做主干的FasterRCNN目标检测网络使用的是同一个工程，环境无需再次配置。二、SwinTransformerYOLO3
Beyonderwei·2022-05-05 07:31

Swin Transformer做主干的 Faster RCNN 目标检测网络（mmdetection）

文章目录一、所需软件（包）介绍二、环境搭建三、SwinTransformerFasterRCNN网络结构图四、SwinTransformerFasterRCNN网络代码五、数据集六、训练模型七、测试训练效果Q&AB站视频教程合集地址：SwinTransformer做主干的FasterRCNN目标检测网络一、所需软件（包）介绍项目工程：mmdetection，直接去github拉取代码即可，拉取位置
Beyonderwei·2022-05-05 07:30

全网首发，Swin Transformer+FaceNet实现人脸识别

目录一、简介二、SwinTransformer作为Backbone1.SwinTransformer整体结构2.PatchEmbed=PatchPartition+LinearEmbedding3.SwinTransformerBlock（1）WindowPartition（2）ShiftedWindowbasedSelf-Attention三、TripletLoss一、简介与其他的深度学习方法在
普通网友·2022-05-05 07:00

Transformer论文解读五（Swin Transformer）

本文中要介绍的SwinTransformer全名为SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows，是2021年微软研究院发表在ICCV上的一篇文章，在多项视觉任务中展现出优异性能。1.改进相比于VisionTransformer（讲解），SwinTransformer做出了几点改进：层次化构建方法：使用了类似卷积神经
蓝鲸鱼BlueWhale·2022-05-04 07:44

CVPR 2022 优质论文分享

ViT在图片分类上的性能超过卷积网络的性能，后续发展而来的各种变体将ViT发扬光大（如Swin-T，CSwin-T等），值得一提的是S
极链AI云·2022-05-04 07:54

SwinTransformer细节及代码实现（pytorch版本）

paper:https://arxiv.org/abs/2103.14030原版code:https://github.com/microsoft/Swin-Transformer作者分析表明，Transformer
智安科技*·2022-05-03 07:41

Swin-Transformer（原理 + 代码）详解

参考博文图解SwinTransformerSwin-Transformer网络结构详解【机器学习】详解SwinTransformer(SwinT)论文下载（二）代码的下载与配置2.1、需要的安装包官方源码下载学习的话，请下载ImageClassification的代码，配置相对简单，其他的配置会很麻烦。如下图所示：Install：pytorch安装：感觉pytorch>1.4版本都没问题的。2、p
☞源仔·2022-05-01 08:45

cv2.error: OpenCV(4.5.5) D:\a\opencv-python\opencv-python\opencv\modules\core\src\arithm.cpp:650: er

项目场景：Video-Swin-Transformer训练星光不问赶路人，时光不负有心人。
TF666666·2022-04-28 07:41

【Network】win10+cuda11.0+pytorch1.7.1安装mmcv及swin transformer的测试

文章目录1.创建虚拟环境，并安装pytorch2.VS2019Enterprise（Enterprise）3.安装MMCV1.3.134.编译安装5.大功告成6.测试swin-transformer参考
努力的袁·2022-04-20 07:11

CVPR 2022 | 超越Swin！华为诺亚&北大提出Wave-MLP：视觉新主干网络

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达转载自：机器之心来自华为诺亚方舟实验室、北京大学、悉尼大学的研究者提出了一种受量子力学启发的视觉MLP新架构。近年来，计算机视觉领域的新型架构层出不穷，包括视觉Transformer、MLP等，它们在很多任务上都取得了超越CNN的性能，受到广泛关注。其中，视觉MLP具有极其简单的架构，它仅由多层感知器（MLP）堆叠而成。与CNN和
Amusi（CVer）·2022-04-10 18:58

A ConvNet for the 2020s

上图是对标准的ConvNet(ResNet)进行了现代化的过程，包括1)宏观设计，2)ResNeXt,3)倒置瓶颈，4)大内核大小，5)各种层次的微观设计，设计了层次视觉转换器(Swin)，而没有引入任何基于注意力的模块
小小小～·2022-03-23 11:58

Swin-Unet医学图像分割阅读总结

Swin-Unet（2021.5.12）慕尼黑工业大学,复旦大学,华为(田奇等人)论文：https://arxiv.org/abs/2105.05537代码：https://github.com/HuCaoFighting
知木木·2022-03-23 08:32

Swin-Unet：Swin Transformer在医学分割上的首次尝试

Swin-Unet：SwinTransformer在医学分割上的首次尝试前言最近小编主要在搞一些医学图像分割的工作，也跑了一下Swin-Unet,之前看到也看到过这篇Swin-Unet(其实五月份就看到了
zerone-fg·2022-03-23 08:02

Swin-Unet:纯Transformer的医学分割

整体架构：由上图可以看出Swin-Unet主要由SwinTransformerBlock,PatchMerging,PatchExpanding组成，其中左半部份就是SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows
柯西的笔·2022-03-23 08:59

Swin-Unet阅读笔记

机构：复旦/华为数据集：ACDC/Synapse指标：dice/Hd相关工作：CNN/Transformer/Attention消融实验：上下采样/跳跃连接/图片输入大小
橙子杉·2022-03-23 08:28

Transformer论文阅读（二）：Swin-Unet: Unet-like Pure Transformer for Medical Image Segmentation

Swin-Unet:Unet-likePureTransformerforMedicalImageSegmentation【用于医学图像分割的Unet形的纯Transformer】Abstract1Introduction2Realtedwork2.1CNN-basedmethods2.2Visiontransformers2.3Self-attention
几夏经秋·2022-03-23 08:50

[Transformer]Swin-Unet: Unet-like Pure Transformer for Medical Image Segmentation

Swin-UNet：基于纯Transformerde的医学图像分割网络Abstract近年来CNN已经成为医学图像分析任务的基础结构，尤其是融合了编解码结构和skip-connection的U型网络广泛应用于各种医学图像分析任务
黄小米吖·2022-03-23 08:19
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他