VIT

谷歌多模态大模型PaLI：采用参数量为4B的ViT-e，效果超过BEiT-3

选自arXiv作者：XiChen等视学算法编译编辑：张倩PaLI-17B在多个benchmark上都达到了SOTA。语言和视觉任务的建模中，更大的神经网络模型能获得更好的结果，几乎已经是共识。在语言方面，T5、GPT-3、Megatron-Turing、GLAM、Chinchilla和PaLM等模型显示出了在大文本数据上训练大型transformer的明显优势。视觉方面，CNN、视觉transfo
视学算法·2023-01-31 10:41

8种视觉Transformer整理（上）

一、ViT原文链接：https://arxiv.org/pdf/2010.11929.pdf首先将图像分割成长宽均为的patch（共个），然后将每个patchreshape成一个向量，得到所谓的flattenedpatch
byzy·2023-01-30 22:17

【论文笔记】 VIT论文笔记，重构Patch Embedding和Attention部分

0前言相关链接：VIT论文：https://arxiv.org/abs/2010.11929VIT视频讲解：https://www.bilibili.com/video/BV15P4y137jb/?
淮gg·2023-01-30 22:47

ViT Patch Embedding理解

ViT(VisionTransformer)中的PatchEmbedding用于将原始的2维图像转换成一系列的1维patchembeddings。
YoJayC·2023-01-30 22:10

Vision Transformer模型学习笔记

Self-AttentionMulti-HeadAttentionSelf-Attention与Multi-HeadAttention计算量对比MLP模块MLPhead完整的模型框图代码链接模型构成根据原论文，ViT
Ethan.bin·2023-01-30 22:39

VisionTransformer（一）—— Embedding Patched与Word embedding及其实现

EmbeddingPatched与Wordembedding及其实现前言零、VIT是什么？
lzzzzzzm·2023-01-30 22:38

SimMIM：更简单的掩码图像建模

将简化后的MIM应用到ViT-B，其预训练模型在公开的图像数据集ImageNet-1K上能够实现83.8%的top-1微调精度，成功超越之前最优模型
·2023-01-30 19:33

WDK_学习笔记_区块链+ViT和Swin transformer

文章目录摘要一、項目：Hyperledger-fabric技术的深入学习1.1安装-2.2.0（只记录问题，其余按文档操作即可）二、深度学习：VersionTransformer(ViT)和SwinTransformer2.1ViT2.1
原来如此-·2023-01-30 07:04

ViT模型——pytorch实现

ViT模型的结构：①Embedding：包括PatchEmbedding、PositionEmbedding和ClassEmbedding；PatchEmbedd
CV_Peach·2023-01-29 08:10

Swin Transformer模型——pytorch实现

论文传送门：SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows前置文章：ViT模型——pytorch实现SwinTransformer
CV_Peach·2023-01-29 08:08

Visual Transformer (ViT) 代码实现 PyTorch版本

简介本文的目的是通过实际代码编写来实现ViT模型，进一步加对ViT模型的理解，如果还不知道ViT模型的话，可以先看下博客了解一下ViT的整体结构。
HaloZhang·2023-01-28 18:04

矩阵变换神奇-einops

einops相较于上面说的那些函数，最显著的区别就是逻辑更加的清晰，用网上的一句话来说的话，就是可以避免view、transpose等函数的神秘主义‍♂️第一次看见别人用einops这个库是在看ViT代码的时候
just do it now·2023-01-28 18:05

第6周学习：Vision Transformer & Swin Transformer

目录1VisionTransformer1.1ViT模型架构1.2Embedding层1.3TransformerEncoder层1.4MLPHead层1.5ViTB/161.6ViT模型参数1.7Hybrid
苍茆之昴·2023-01-28 14:44

计算机视觉论文速递（十）ViT-LSLA：超越Swin的Light Self-Limited-Attention

Transformer在广泛的视觉任务中表现出了竞争性的表现，而全局自注意力的计算成本非常高。许多方法将注意力范围限制在局部窗口内，以降低计算复杂性。然而，他们的方法无法节省参数的数量；同时，自注意力和内部位置偏差（在softmax函数内部）导致每个query都集中在相似和接近的patch上。因此，本文提出了一种LightSelf-Limited-Attention（LSLA），它包括轻Light
AiCharm·2023-01-28 10:43

CRF 条件随机场

与HMM的比较HMM和CRF区别3.Tensorflow实现tf.contrib.crf（1）tf.contrib.crf.crf_log_likelihood()（2）tf.contrib.crf.vit
满腹的小不甘_静静·2023-01-28 09:20

transformer在图像领域中的应用

Vit:图像分类visiontransformer他的结构就是下边展示的这样，首先将图片进行分块，展开（或CNN进行特征映射，做线性变换）在块序列首位置添加虚拟开始块，用作后续的图像分类特征使用Transformer-Encoder
临街的小孩·2023-01-27 15:49

使用vit预训练遥感数据得到分类模型

train.pyimporttorchfromtorchimportnnfromtorch.nnimportfunctionalasFfromtorchvisionimporttransformsfromtorch.utils.dataimportDataLoader,DatasetfromtorchimportoptimimportosimportcsvfromPILimportImageimp
Rashore·2023-01-27 10:05

KeyError: ‘Transformer/...query\\kernel is not a file in the archive‘(已解决)

MultiHeadDotProductAttention_1/query\\kernelisnotafileinthearchive'这是os.path.join合并路径的时候出现的问题解决方案：1.在vit_seg_mod
astro35·2023-01-27 10:05

Vision Transformer模型与预训练权重简析

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、ViT原理图二、算法实现过程三、ViT-B/16结构详图四、ViT-B/16预训练权重简析总结前言ViT(VisionTransformer
云中月scau·2023-01-27 10:34

【Timm】create_model所提供的ViT模型概览

⚪查看代码：pythonxxx.pyimporttimmif__name__=='__main__':model_vit=timm.list_models('*vit*')print(len(model_vit
MengYa_DreamZ·2023-01-27 10:34

2022年智源社区年度热点推荐丨新春集锦

2022智源社区20篇最热文章推荐2022summary行业全年盘点2022盘点吴恩达分享：生成式AI、ViT、大模型2022盘点李飞飞Manning和PercyLiang分享https://hub.baa
智源社区·2023-01-26 15:56

swin transformer

vit模型要求处理图片的像素不能太大（vit论文中给定的图片为224*224），但是针对于更高像素的图片，vit还是无法处理，并且vit模型无法在物体检测等领域发挥较好效果。
v1dv1dv1d·2023-01-26 12:12

VIT算法模型源码调试时：ModuleNotFoundError: No module named ‘utils.scheduler‘

运行train.py时出现这种错误：解决方法：在utils目录下建立一个__init__.py的空文件。再运行train.py就正常运行了。**
Immortal stars·2023-01-25 09:36

北大/港大/百度提出CAE：自监督学习新范式！用于SSL的上下文自动编码器

随着ViT的提出和发展，人们也尝试将掩码图像建模（MIM）应用到视觉领域并取得了一定进展。在此之前，视觉自监督算法主要沿着对比学习（contrastivelearn
Amusi（CVer）·2023-01-21 12:02

NeurIPS 22｜Sequencer：完美超越Swin与ConvNeXt等前沿算法

本文提出Sequencer，一个全新且具有竞争性的架构，可以替代ViT，为分类问题提供了一个全新的视角。
MrRoose·2023-01-21 08:47

怎么知道 vite 创建的 vue 项目是 vue2还是vue3？

package.json文件内容：{"name":"loqnyn","private":true,"version":"0.0.0","type":"module","scripts":{"dev":"vit
·2023-01-21 00:54

可视化VIT中的注意力

2022年，VisionTransformer(ViT)成为卷积神经网络(cnn)的有力竞争对手，卷积神经网络目前是计算机视觉领域的最先进技术，广泛应用于许多图像识别应用。
·2023-01-19 20:15

深度学习算法数据-网络-算法总结

深度学习算法数据-网络-算法总结1数据集大全通用2D检测数据集、交通标志、车道线、行人检测、3D目标检测、ReID等数据集2Backbone知识汇总该部分主要是针对常见CNN结构以及ViT结构进行汇总，
中科哥哥·2023-01-19 15:38

three.js简单实现类似七圣召唤的掷骰子

为了方便直接用vit
·2023-01-19 03:37

基于 EasyCV 复现 ViTDet：单层特征超越 FPN

EasyCV，主要聚焦于最新的VisionTransformer模型，以及相关的下游CV任务开源地址：https://github.com/alibaba/EasyCVViTDet其实是恺明团队MAE和ViT-basedMaskR-CNN
阿里云云栖号·2023-01-18 20:50

Restnet ， transformer and vit总结

transformer可能是替代了restnettransformer文章attentionisallyouneedrestnet文章deeplresiduallearningforimagerecognitionrestnettask解决layer层多了，result的trainerror增加了，即defradationproblemmethodaddedtheidentitylayerscop
Ellie进化中的程序猿·2023-01-18 20:48

视觉大模型调研(Survey of Visual Foundation Model)

目录A.写在前面B.论文支撑与基础理论1.大模型基本概念的诞生2.大模型产业化落地的理论支撑3.视觉模型架构的形成-Transformer到ViT再到MAEC.产业落地化现状1.百度文心UFO2.0整体概述原理介绍模型效果应用场景与方案
是魏小白吗·2023-01-18 12:29

Shunted Self-Attention via Multi-Scale Token Aggregation

arxiv.org/pdf/2111.15193.pdf代码：https://github.com/OliverRensu/Shunted-Transformer最近的VisionTransformer(ViT
小小小~·2023-01-18 01:05

自监督表征预训练

BEiT：BEiT将可见图像块的颜色信息和掩码图像块掩码一起输入到ViT中，然后ViT输出通过一个线性层来做预测。
十二壳·2023-01-17 19:39

【Transformer学习笔记】VIT解析

Vit，visiontransformer正是在此道路上跨出的一大步。transformer是世界上最好的结构！（误）原
不想写代码不想秃头·2023-01-17 15:21

【BEV】学习笔记之 DeformableDETR(原理+代码解析)

1、前言Visiontransforer(ViT)是Google团队提出的将transformer应用在图像分类的模型，成为了transformer在CV领域应用的里程碑著作。
Rex久居·2023-01-17 08:21

[HAL]stm32 ETH 使用UDP进行以太网通信

《作甚务甚》硬件攻城狮系列二——使用UDP进行以太网通信软件工具：stm32cubeMX编程工具：keiluvision5使用芯片：stm32F437VIT6编译环境：win10任务目标：使用udp协议完成单片机与上位机的以太网通信
神人掌观山河·2023-01-16 16:29

An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale——ViT

文章目录摘要Introduction相关工作方法VisionTransformer(ViT)Fine-TuningandHigherResolution（微调和高分辨率）实验Setup（实验设置）ComparisontoStateofTheArtPre-trainingdatarequirementsScalingStudy
AcceptGo·2023-01-15 18:43

训练ViT和MAE减少一半计算量！Sea和北大联合提出高效优化器Adan，深度模型都能用...

自Google提出VisionTransformer(ViT)以来，ViT渐渐成为许多视觉任务的默认backbone。
视学算法·2023-01-15 12:08

训练ViT和MAE减少一半计算量！Sea和北大提出新优化器Adan：深度模型都能用！

自Google提出VisionTransformer(ViT)以来，ViT渐渐成为许多视觉任务的默认backbone。
Amusi（CVer）·2023-01-15 12:34

训练ViT和MAE减少一半计算量！Sea和北大联合提出高效优化器Adan，深度模型都能用

自Google提出VisionTransformer(ViT)以来，ViT渐渐成为许多视觉任务的默认backbone。
易学智能EasyAIForum·2023-01-15 12:32

安装pytorch踩坑记录

要根据cuda版本选择torch版本还有就是，本来都安装好了，结果跑vit的时候安包当时pipinstallvit_pytorch提示我了，得是torch1.10才能兼容然后我试了试作者给的代码，没报错
yyBlone·2023-01-15 11:14

Pytorch实现Vision Transformer

代码'''python3.7-*-coding:UTF-8-*-@Project->File：pythonProject->Vit@IDE：PyCharm@Author：@USER:@Da
水云仙君·2023-01-15 10:38

PyTorch深度学习（23）Transformer及网络结构ViT

Transformer一、Transformer1、简介创新、模型效果通用的模块注意力机制应用领域：cvnlp信号处理视觉、文本、语音、信号核心：提特征的方法提的更好应用NLP的文本任务nlpword2vec词向量每个词都是一个向量不同的语境中一个词的含义不同2、Attention注意力机制权重控制语言：感兴趣的图像：指定需要关注（1）self-attention作用：同样的词，语境不同，含义不同
JYliangliang·2023-01-15 10:33

理解ViT（结合代码）

关于vit的网络详解建议去b站看我b站导师的视频11.1VisionTransformer(vit)网络详解_哔哩哔哩_bilibili这篇文章只讲述我看完视频和代码之后对ViT的理解，特别是代码中是怎么实现的网络结构
Orange_sparkle·2023-01-15 10:31

nn.Dropout、DropPath的理解与pytorch代码

在vit的代码中看到了DropPath，想知道DropPath与nn.Dropout()有什么区别，于是查阅相关资料记录一下。
研1菜鸟·2023-01-15 10:30

论文笔记：InternImage—基于可变形卷积的视觉大模型，超越ViT视觉大模型，COCO 新纪录 64.5 mAP！

目录文章信息写在前面Background&MotivationMethodDCNV2DCNV3模型架构Experiment分类检测文章信息Title：InternImage:ExploringLarge-ScaleVisionFoundationModelswithDeformableConvolutionsPaperLink：https://arxiv.org/abs/2211.05778Cod
苏三平·2023-01-15 09:08

Vision Transformer

VisionTransformer代码实现VisionTransformer代码参考链接#vit模型中使用的正则化方法#类似于dropout#其含义为：在一个batch中，有drop_prob概率使若干个样本不会经过主干传播
v1dv1dv1d·2023-01-14 20:01

Sequencer: Deep LSTM for Image Classification（NIPS2022）精读笔记

0.Abstract在计算机视觉领域，ViT利用了self-attention机制在视觉下游任务中取得很好的效果，而例如MLP-Mixer以及一些经过特别设计的CNN也达到了与ViT媲美性能。
别码了W哥·2023-01-14 16:26

Swin Transformer, SwinIR, SwinFIR

Hieracicalattention的变化：slidingwindowattention，减少了attention的计算复杂度，同时通过sliding增强connection，实现全局attention和ViT
yyyang404·2023-01-14 07:50
上一页 9 10 11 12 13 14 15 16 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他