transformer论文阅读第42页

YOLOv3老矣尚能战否？基于YOLOv3开发构建建钢铁产业产品智能自动化检测识别系统，我们来与YOLOv5进行全方位对比评测

Together_CZ·2023-11-29 01:07

python基于DETR(DEtection TRansformer)开发构建钢铁产业产品智能自动化检测识别系统

DETR(DEtectionTRansformer)是一种基于Transformer架构的端到端目标检测模型。

Together_CZ·2023-11-29 01:37

基于官方YOLOv4-u5【yolov5风格实现】开发构建目标检测模型超详细实战教程【以自建缺陷检测数据集为例】

Together_CZ·2023-11-29 01:37

HuggingFace学习笔记--利用API实现简单的NLP任务

基于预训练模型实现下游任务2--中文填空3--中文句子关系推断1--中文分类1-1--使用预训练模型推理代码实例：importtorchfromdatasetsimportload_datasetfromtransformersimportBertTokenizer

晓晓纳兰容若·2023-11-29 01:34

HuggingFace模型训练以及推理相关

handsome_new·2023-11-29 01:32

HuggingFace学习笔记--AutoModel的使用

1--AutoModel的使用官方文档AutoModel用于加载模型；1-1--简单Demo测试代码：fromtransformersimportAutoTokenizer,AutoModelif__name

晓晓纳兰容若·2023-11-29 01:29

分层级联Transformer！苏黎世联邦提出TransCNN: 显著降低了计算/空间复杂度！

导读本文是苏黎世联邦理工-LucVanGool组联合南开大学和电子科技大学在Transformer上的最新工作，这项工作主要提出了一个新的分层级联多头自注意力模块(MHSA)，通过分层级联的方式显著降低了计算

深度学习技术前沿·2023-11-28 22:49

邻里注意Transformer(CVPR2023）

NeighborhoodAttentionTransformer摘要1、介绍2、相关工作2.1新的卷积基线3、方法3.1邻居注意力3.2TiledNAandNATTEN3.3邻居注意力Transformer4

毕竟是shy哥·2023-11-28 22:19

Da-transunet:将空间和通道双重关注与Transformer u-net相结合用于医学图像分割

DA-TRANSUNET:INTEGRATINGSPATIALANDCHANNELDUALATTENTIONWITHTRANSFORMERU-NETFORMEDICALIMAGESEGMENTATION1

毕竟是shy哥·2023-11-28 22:19

EfficientViT：具有级联群体注意力的内存高效Transformer

EfficientViT:MemoryEfficientVisionTransformerwithCascadedGroupAttention1、介绍2、使用VisionTransformer加快速度2.1

毕竟是shy哥·2023-11-28 22:45

从2D到3D的目标检测综述

论文阅读模块将分享点云处理，SLAM，三维视觉，高精地图相关的文章。公众号致力于理解三维视觉领域相关内容的干货分享，欢迎各位加入我，我们一起每

点云PCL公众号博客·2023-11-28 20:55

Transformer中的多头注意力机制-为什么需要多头？

Transformer为什么使用多头注意力机制呢？多头可以学习到不同维度的特征和信息。为什么可以学习到不同维度的信息呢？

yzZ_here·2023-11-28 20:14

论文阅读笔记《GANomaly: Semi-Supervised Anomaly Detection via Adversarial Training》

核心思想本文提出一种基于半监督GAN的异常检测算法，主要的创新点在于在自动编码器之后，又增加了一个编码器，构成了“编码-解码-编码”的结构，通过比较第二个编码器的输出和第一个编码器的输出之间的差别，来评估输入图像是否属于异常图像。网络的训练过程同样也引入了对抗训练的思想，即使用一个区分器对解码器输出的重构图像进行判断，是来自原始图像还是重构图像，整个网络的结构如下图所示整个网络可以分为三个

深视·2023-11-28 18:15

论文阅读 | K-Radar: 4D Radar Object Detection for Autonomous Driving in Various Weather Conditions

论文简介本文介绍了K-Radar这一大型4D雷达张量（多普勒-距离-水平角-俯仰角）目标检测数据集。该数据集还包含高分辨率激光雷达点云、来自4个环视相机的RGB立体图像、RTK-GPS和自车的IMU数据。采集场景包括多种道路（城市、郊区、高速路等）、多个时段（白天、夜晚）、多种天气（晴、阴、雨、雾、雪、雨夹雪等），可以验证雷达对天气的鲁棒性。标注信息由激光雷达点云获得，可根据校准矩阵转换到雷达坐标

泡泡枪超人·2023-11-28 15:40

生成式深度学习(第二版)-译文-第九章-Transformers (II)

……接上篇博文(第九章-Transformers(I))TransformerBlock一个TransformerBlock是指Transformer中应用了一些跳跃连接，前向(全连)层，以及围绕多头注意力层归一化的单个

Garry1248·2023-11-28 15:27

使用Pytorch从零开始构建Energy-based Model

知识回顾:[1]生成式建模概述[2]TransformerI，TransformerII[3]变分自编码器[4]生成对抗网络，高级生成对抗网络I，高级生成对抗网络II[5]自回归模型[6]归一化流模型[

Garry1248·2023-11-28 15:27

生成式深度学习(第二版)-译文-第九章-Transformers (I)

章节目标:了解GPT的起源，一种用于文本生成的强大解码器Transformer。从概念上了解注意力机制是如何模拟人类的注意力:对句子中某些词比其他关注更多。

Garry1248·2023-11-28 15:56

使用Pytorch从零开始构建扩散模型-DDPM

知识回顾:[1]生成式建模概述[2]TransformerI，TransformerII[3]变分自编码器[4]生成对抗网络，高级生成对抗网络I，高级生成对抗网络II[5]自回归模型[6]归一化流模型[

Garry1248·2023-11-28 15:54

中美合拍，把我笑到头掉

英文名，《NEZHA:TRANSFORMERS》。活久见。曾经，我们还以为它只是古老的传言。没想到它说到做到。今天午饭时间，Sir没把持住自己的好奇心，点开。看完了。来。

Sir电影·2023-11-28 14:15

[论文阅读笔记48]BLURB

一，题目Domain-SpecificLanguageModelPretrainingforBiomedicalNaturalLanguageProcessing作者：YUGU,ROBERTTINN,HAOCHENG,MICHAELLUCAS,NAOTOUSUYAMA,XIAODONGLIU,TRISTANNAUMANN,JIANFENGGAO,HOIFUNGPOON机构：MicrosoftRes

happyprince·2023-11-28 10:07

【论文笔记】BioGPT: generative pre-trained transformer for biomedical text generation and mining

BioGPT:generativepre-trainedtransformerforbiomedicaltextgenerationandmining论文题目：BioGPT:generativepre-trainedtransformerforbiomedicaltextgenerationandmining

jinniulema·2023-11-28 10:37

【论文阅读】TACAN:控制器局域网中通过隐蔽通道的发送器认证

人工智能有点·2023-11-28 09:00

论文阅读——DINOv

首先是关于给了提示然后做分割的一些方法的总结：左边一列是prompt类型，右边一列是使用各个类型的prompt的模型。这些模型有分为两大类：Generic和Refer，通用分割和参考分割。Genericseg是分割和提示语义概念一样的所有的物体，也就是提示是狮子，就把图片中所有狮子分割出来；Referseg是根据用户提示分割特定的物体，也就是提示是狗狗的一只耳朵，分割出来的也是狗狗的耳朵。可以看到

じんじん·2023-11-28 09:30

【论文阅读笔记】StyleAvatar3D: Leveraging Image-Text Diffusion Models for High-Fidelity 3D Avatar Generation

【论文阅读笔记】StyleAvatar3D:LeveragingImage-TextDiffusionModelsforHigh-Fidelity3DAvatarGeneration论文阅读笔记论文信息摘要背景方法结果关键发现作者动机相关工作

LuH1124·2023-11-28 09:29

【论文阅读笔记】清单

我的论文清单记录即将阅读的论文清单，持续更新。未读论文以下是我计划阅读但尚未开始的论文列表：编号方向论文标题作者发表时间发表会议/期刊计划阅读日期code1NerfNeRFMeshing:DistillingNeuralRadianceFieldsintoGeometrically-Accurate3DMeshesGoogle2023/03arxiv2023/11暂无23dgsPhysGaussi

LuH1124·2023-11-28 09:59

大一统模型 Universal Instance Perception as Object Discovery and Retrieval 论文阅读笔记

UniversalInstancePerceptionasObjectDiscoveryandRetrieval论文阅读笔记一、Abstract二、引言三、相关工作实例感知通过类别名进行检索通过语言表达式的检索通过指代标注的检索统一的视觉模型

乄洛尘·2023-11-28 08:26

【论文阅读】ActiveNeRF：通过不确定性估计候选新视图

【论文阅读】ActiveNeRF:LearningwheretoSeewithUncertaintyEstimationAbstract1Introduction3Background4NeRFwithUncertaintyEstimation5ActiveNeRF5.1PriorandPosteriorDistribution5.2AcquisitionFunction5.3Optimizati

WoooChi·2023-11-28 08:24

【论文阅读笔记】InstructDiffusion: A Generalist Modeling Interface for Vision Tasks

【论文阅读笔记】StyleAvatar3D:LeveragingImage-TextDiffusionModelsforHigh-Fidelity3DAvatarGeneration论文阅读笔记论文信息引言动机挑战方法结果关键发现相关工作

LuH1124·2023-11-28 08:50

深度学习之图像分类（十五）DINAT: Dilated Neighborhood Attention Transformer详解（一）

DilatedNeighborhoodAttentionTransformerAbstractTransformers迅速成为跨模态、领域和任务中应用最广泛的深度学习架构之一。

哈尔滨张谦蛋·2023-11-28 06:33

javassist 增强es日志

ClassFileTransformer主要分成三步：2.1SearchRequestTransformer该类实现自ClassFileTransformer，主要是在elasticsearch的SearchRequest

Signal_075a·2023-11-28 06:35

【网安AIGC专题】46篇前沿代码大模型论文、24篇论文阅读笔记汇总

本系列文章不仅涵盖了46篇关于前沿代码大模型的论文，还包含了24篇深度论文阅读笔记，全面覆盖了代码生成、漏洞检测、程序修复、生

是Yu欸·2023-11-28 03:53

阿里&华科大提出ONE-PEACE：更好的通用表征模型，刷新多个SOTA！

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>【多模态和Transformer】微信群作者：霜清老人|源：知乎（已授权转载）https://zhuanlan.zhihu.com

Amusi（CVer）·2023-11-28 01:15

NeurIPS 2023 | 旷视张祥雨等人提出RevColV2：当解耦学习遇见自监督训练！视觉预训练新思路...

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>【计算机视觉和Transformer】交流群作者：QiHan（源：知乎，已授权）https://zhuanlan.zhihu.com

Amusi（CVer）·2023-11-28 01:15

Transformer —— attention is all you need

https://www.cnblogs.com/rucwxb/p/10277217.htmlTransformer——attentionisallyouneedTransformer模型是2018年5月提出的

weixin_30511107·2023-11-28 01:11

Transformer——《Attention is all you need》

本文是Google机器翻译团队在2017年发表，提出了一个新的简单的网络模型——Transformer。

NPC_0001·2023-11-28 01:41

Transformer——理论篇

序在看这一篇之前，我希望你有一定的基础知识：1.CNN,RNN,Transformer比较2.Attention机制3.self-attention机制本文将紧接着前文的内容，对Transformer再进行一次探索

MoonLer·2023-11-28 01:10

【论文阅读】Transformer——Attention Is All You Need

文章目录论文阅读模型架构代码合集utils.pymodel.pytrain.pytest.py论文阅读因为本人算是半个CV人，没有NLP的基础，这篇文章和代码也只是浅尝辄止,下载了大佬的代码跑了跑，看了看

每个人都是孙笑川·2023-11-28 01:10

学习笔记|Transformer——实现“序列to序列”的转换

文章目录1.Transformer概述2.Transformer的Encoder3.Transformer的Decoder3.1Decoder的自回归（Autoregressive）机制。

偶尔写一写·2023-11-28 01:09

Transformer——seq2seq的模型

内容来源于李宏毅2021/2022春机器学习课程p49-50seq2seq一般由Encoder和Decoder组成在Encoder进行输入，在Decoder输出结果Encoder(给一排向量，输出一排向量）在一个Encoder中会对右侧的模型循环N遍右侧的模型展开后类似于下面的样子。输入一排向量后，进入self-attention后进入fullyconnectedlayers。最后得到输出。Bol

bolite·2023-11-28 01:08

Transformer——Open black box

Transformer结构由encoder和decoder两部分组成内部结构包括了多头注意力机制，正则化，残差连接。

YingJingh·2023-11-28 01:38

Transformer——decoder

上一篇文章，我们介绍了encoder，这篇文章我们将要介绍decoderTransformer-encoderdecoder结构：如果看过上一篇文章的同学，肯定对decoder的结构不陌生，从上面框中可以明显的看出

牛像话·2023-11-28 01:35

论文阅读：Synthesizing Obama: Learning Lip Sync from Audio

文章目录音频到landmarks面部纹理合成候选帧选择加权中位数纹理的合成牙齿proxy(TeethProxy)音频到视频部分出现的术语：stockvideofootage：themanyhoursofonlineweeklyaddressvideosource：theinputaudiotracktargetvideo：stockvideoclipintowhichwecompositethes

live_for_myself·2023-11-28 01:31

论文阅读：Tooth model reconstruction based upon data fusion for orthodontic treatment simulation

【论文信息】ToothmodelreconstructionbasedupondatafusionfororthodontictreatmentsimulationComputersinBiologyandMedicine2014IF1.5二区【背景】回头看【方法】首先将石膏模型数字化，将上面每个牙齿分割下来。使用如下公式计算顶点的斜率。然后对斜率设定一个filter，就可以得到想要的区域。然后用

kczh·2023-11-28 01:59

论文阅读：Crown Segmentation From Computed Tomography Images With Metal Artifacts

【论文信息】CrownSegmentationFromComputedTomographyImagesWithMetalArtifactsIEEESIGNALPROCESSINGLETTERS2016IF1.66三区同样出自ZeyangXia只手，深圳先进科学技术研究院【背景】当有金属植入物存在时，牙齿的轮廓不容易识别出来。牙冠的前表面会有凸出来的东西，而以往的方法都是默认没有这些存在的，所以该论