Decoder

【BBuf的CUDA笔记】七，总结 FasterTransformer Decoder(GPT) 的cuda相关优化技巧

这里总结FasterTransformerDecoder(GPT)的cuda相关优化技巧解读：https://github.com/NVIDIA/FasterTransformer/blob/main/
just_sort·2023-03-09 18:49

Java Base64解码并生成图片文件

JavaBase64解码并生成图片文件importsun.misc.BASE64Decoder;importjava.io.
55cfa828b3a7·2023-03-09 07:52

Decoder如何工作、Transformer如何训练、以及exposure bias问题

一、Decoder工作部分（以一个例子介绍工作流程，以及Decoder输出结果是什么样的）Decoder是如何工作的（这也是Decoder与Encoder之间的连接）？
霄耀在努力·2023-02-28 19:48

指针生成网络 Pointer-Generator《Get To The Point: Summarization with Pointer-Generator Networks》论文阅读笔记

最近看的指针生成网络，其混合概率直接就是decoder端的softmax加上源端的atten
彭伟_02·2023-02-25 13:02

[NLP] Transformer，使用PyTorch从0开始实现整体框架

1.Transformer的整体架构可以看出，整个架构根据中线分开，左边是Encoder，右边是Decoder。
Osmond_C·2023-02-23 21:55

一文看懂 NLP 里的模型框架 Encoder-Decoder 和 Seq2Seq

Encoder-Decoder和Seq2SeqEncoder-Decoder是NLP领域里的一种模型框架。它被广泛用于机器翻译、语音识别等任务。
weixin_43612023·2023-02-22 07:52

注意力机制Attention Mechanism：从Seq2Seq到BERT

目录前言注意力机制的发展LSTM和GRULSTM和LSTMcellBiLSTMGRU(待更新)Seq2seq机器翻译的例子encoderdecoderSeq2seq+AttentionAttention
November丶Chopin·2023-02-22 07:21

Efficient Transformers: A Survey

论文[2009.06732]EfficientTransformers:ASurvey1.BackgroundonTransformersDenseAttention：encoder和decoder最大的区别在于掩码不同
cornbig·2023-02-18 20:25

整理1

Burp1.burpsuite常用的功能是哪几个仪表盘（Dashboard）漏洞扫描（Target）代理（Proxy）测试器（Intruder）重发器（Repeater）定序器（Sequencer）编码器（Decoder
李学君_max·2023-02-18 03:19

基于Transformer实现文本分类（Keras/TensorFlow）

简单来说，Transformer可以被看做是一个Seq2seq模型，它包括一个Encoder和一个Decoder。常常被用来做机器翻译，Enc
白马负金羁·2023-02-17 21:55

【FFMPEG源码分析】ffmpeg中context与AVClass，AVOption之间的关系

通过前面三篇文章的分析大致了解了ffmpeg中demuxer/decoder模块的内部大致结构和数据处理流程。
猿来如此yXy·2023-02-17 17:20

Transformer总结

目录1Transformer的主要框架1.1输入编码1.2位置编码1.3Self-Attention1.4Multi-HeadAttention1.4Encoder-DecoderAttention2常见问题
Yasin_·2023-02-17 14:04

Transformer

目录Transformer结构Transformer过程详解1.Transformer结构Transformer是一个Encoder-Decoder的过程，其中Encoders是由个（论文中）Encoderblock
张虾米试错·2023-02-17 09:24

Transformer简介

Transformer:总体架构Transformer是“编码器—解码器”架构，由编码器(encoder)和解码器(decoder)组成，其都是多头自注意力模块的叠加。
晴空^_^·2023-02-16 23:23

transformer-Autoregressive Language Models之GPT-1、2、3解析及GPT源码实现

1，Task-aware的人工智能Languagemodel+Pre-training+Fine-tuning时代2，Decoder-OnlyStack数学原理及架构解析3，训练材料标注：neutral
chu227·2023-02-16 23:23

GPT-3(Language Models are Few-shot Learners)简介

GPT-3(LanguageModelsareFew-shotLearners)GPT-2网络架构GPT系列的网络架构是Transformer的Decoder，有关Transformer的Decoder
晴空^_^·2023-02-16 23:52

2.Seq2Seq注意力机制

目录neuralmachinetranslationbyjointlylearningtoalignandtranslateDecoder解码器Encoder编码器effectiveapproachestoattention-basedneuralmachinetranslationglobalattentionlocalattention
派大星的最爱海绵宝宝·2023-02-16 22:20

详解transformer

1.Transformer整体结构首先介绍Transformer的整体结构，下图是Transformer用于中英文翻译的整体结构：可以看到Transformer由Encoder和Decoder两个部分组成
one-莫烦·2023-02-16 22:47

KG-FiD阅读笔记

KG-FiD:InfusingKnowledgeGraphinFusion-in-DecoderforOpen-DomainQuestionAnswering将知识图谱注入融合解码器来解决开放域的问题回答
JasmineRen·2023-02-16 22:15

NLP实践——知识图谱问答模型FiD

今天介绍的这个模型是Facebook在2021年就已经提出来的FiD（Fusion-in-Decoder），发表在ACL上。论文地址：ht
常鸿宇·2023-02-16 22:45

【论文/视频学习】Attention Is All You Need

摘要主流的序列转换模型（例如机器翻译）主要依赖于复杂的CNN或RNN，网络架构有encoder和decoder，并且有着注意力机制。Transformer是一个简单的模型，只依赖注意力机制。
Shackles Lay·2023-02-16 21:58

Transformer学习及代码实现 (Attention is all you need论文阅读)

主要章节写在前面整体架构Encoder与Decoder的结构设计EncoderLayerNormEncoderLayer的主要结构Decoder与DecoderLayerAttentionScaledDotProductAttentionMultiHeadAttentionPosition-wiseFeed-ForwardNetworksEmbeddingandSoftmaxPositionEnc
苏偃·2023-02-16 21:23

笔记：RACV2021观点集锦 | 视觉transformer 从主干encoder 到任务decoder: 现状与趋势

会议链接RACV2021观点集锦|视觉transformer从主干encoder到任务decoder:现状与趋势low/highlevel的视觉任务都有相应的transformer刷榜。
lifuguan·2023-02-07 11:20

镭神32线激光雷达pcap数据离线解析 支持A C型 矫正激光阵列有序化点云

#include"liadr32Decoder.h"#defineLIDAR_VERSION2//staticLidarDatasLidarDataFrist;//fisrtechostaticLidarDatasLidarDataSecond
qq_32949333·2023-02-07 09:14

LSTM的参数数量如何计算？

首先，原文中提到，在encoder与decoder上都使用了4层的LSTM.可以首先计算LSTM的参数数量.那么,一个LSTM有多少个参数呢?
taoqick·2023-02-07 07:00

LSTMCell

文章目录什么是LSTMCellLSTMCell含义LSTMCell类为什么要用LSTMCell什么是LSTMCell今天在回顾Seq2Seq利用Attention注意力机制实现的时候，发现decoder
365JHWZGo·2023-02-07 07:58

编码器-解码器(seq2seq)和注意力机制

编码器-解码器(seq2seq)编码器(encoder)和解码器(decoder)分别对应着输入序列和输出序列的两个循环神经网络(RNN)，通常分别在输出序列和输入序列头尾加上，表示序列的开始和结束。
errorrrr·2023-02-07 05:19

Transformer 中的 masked self-attention layer

Transformer中self-attentionlayer中一个optional的mask操作，只在decoder中起作用，翻来翻去也没有找到中文的博文详细提到这个。
笨蛋白熊·2023-02-07 00:59

Swift 使用JSONDecoder 将data转为model

如下json数据{"movie_detail":{"movie_thumbnail_image":"https://bkimg.cdn.bcebos.com/pic/aa18972bd40735fae6cd4657120318b30f2443a7a299?x-bce-process=image/resize,m_lfit,w_440,limit_1/format,f_auto","title":"
分享学习·2023-02-06 20:59

Android异常java.lang.IllegalStateException: Immutable bitmap passed to Canvas constructor

使用BitmapFactory的decodeResource方法需注意，不能直接修改res里面的图片，需要添加copy(Bitmap.Config.ARGB_8888,true)方法，否则会报以下异常：
MoonJoy·2023-02-06 18:44

目标检测：DETR详解

目标检测：DETR详解前言DETRBackboneEncoderDecoder实验前言DETR是第一篇将Transformer应用到目标检测方向的算法。
HanZee·2023-02-06 08:58

HyperSphereSurfaceRegression 算法笔记

360SurfaceRegressionwithaHyper-SphereLoss归纳表格总结CNNarchitectureArchitectureAfullyconvolutional(FCN)encoder-decodernetworkwithskip-connections
vivisl·2023-02-06 08:40

五.encoder-decoder

机器翻译这块看的懵懂，先贴代码部分，概念部分不熟悉没整理出来，以后回来更新Encoder-Decoderencoder：输入到隐藏状态decoder：隐藏状态到输出imageclassEncoder(nn.Module
copain_sir·2023-02-05 23:28

DETR & 3DETR

DETR&3DETR0.Attentionisallyouneed(NIPS2017)TransformerEncoderTransformerDecoder1.DE⫶TR:End-to-EndObjectDetectionwithTransformers-ECCV2020
想读书行不行·2023-02-05 15:58

【自然语言处理六】利用transformer模型实现机器翻译

transformer模型由encoder,decoder构成，每一个encoder分为六层，每一层又分为一个前馈网络和一个多头注意力层。
moo611·2023-02-05 14:10

2018 DeeplabV3+笔记

文章目录*DeepLabV3+**KeyPoint****overview******Keywordsandconcepts***摘要引言相关工作***Methods******Encoder-DecoderwithAtrousConvolution
晓梦清尘·2023-02-04 15:42

DeeplabV3+(2018)论文笔记

Encoder-DecoderwithAtrousSeparableConvolutionforSemanticImageSegmentation文章目录Encoder-DecoderwithAtrousSeparableConvolutionforSemanticImageSegmentation
qq_40632955·2023-02-04 15:41

Android中Bitmap的加载和Canche总结篇

一：Bitmap的高效加载BitmapFactory类提供了四类方法：decodeFile,decodeResource,decodeStream和decodeByteArray,分别用于支持从文件系统
简雨山舍·2023-02-04 15:25

swift Codable

unkeyedContainer、singleValueContainerstructStudent:Codable{letname:Stringinit(fromdecoder:Decoder)throws
迷路的小小·2023-02-04 09:27

transformer with mot

encoder的意义在于：全局特征可以知道这个物体在图中的位置decoder的意义在于：移除冗余框互相通信之后，知道每个query可能得到什么样的一个框不要去做重复的框TransTrack(20.12)
Azure1120·2023-02-04 08:30

求情链接参数Base64加解密

importsun.misc.BASE64Decoder;importsun.misc.BASE64Encoder;importjava.io.IOException;publicclassBase64Test
犹如今生·2023-02-04 03:48

【AI-NLP】Transformer理论及源码理解

文章目录提出背景总体结构EncoderDecoder细节再探源码阅读主函数部分主模型定义编码器编码层多头自注意力层前馈神经网络层Masked解码器解码层参考资料提出背景改进了RNN的训练慢的缺点，利用self-attention
CodeSlogan·2023-02-03 21:33

DETR：Transformer的目标检测（detection）- Demo

DETR：Transformer的目标检测Transformer是一个基于自注意力机制的深度学习模型，它的经典结构：encoder-decoder。
Kukulin13013·2023-02-03 12:53

IJKPlayer播放视频在iOS部分机型黑屏原因分析

解码失败错误码：kVTVideoDecoderBadDataErr=-129
陆离o·2023-02-03 04:11

DelimiterBasedFrameDecoder

概要Adecoderthatsplitsthereceived{@linkByteBuf}sbyoneormoredelimiters.Itisparticularlyusefulfordecodingtheframeswhichendswithadelimitersuchas
Pillar_Zhong·2023-02-02 22:37

java encoder_java netty之decoder与encoder的使用 | 学步园

也就是说在实际情况下decoder与encoder都是用到比较多的handler类型，想要了解他们是怎么实现的，我觉得首先应该知道他们是怎么使用的，那么就用官方说明的UnixTime作为例子来简单的说民一下
Miss黑手套·2023-02-02 21:56

Transformer原理及代码注释(Attention is all you need)

Transformer采用了机器翻译中通用的encoder-decoder模型，但摒弃了以往模块内部的RNN模型，只是完全依赖注意力机制来构建模型。
ffffatgoose·2023-02-02 21:26

context encoder代码解读

contextencoder代码解读网络框架使用Encoder-Decoder+Gan网络结构修复图像E-D阶段用于学习图像特征生成待修补区域对应的预测图，使用GAN对抗学习来优化模型针对联合损失和规则遮挡的
EstherWjj·2023-02-02 21:55

Transformer-Bert模型学习笔记

Transformer结构image.pngSelf-Attentionimage.png上图是论文中Transformer的内部结构图，左侧为Encoderblock，右侧为Decoderblock。
林桉·2023-02-02 20:08

Transformer学习笔记（详细）

1.前言Transformer本质是一种seq2seq结构，那么它一定也有Encoder和Decoder部分，只是这两个部分不同于以往模型采用的RNN结构，Transformer聪明地开创了另一种新的结构
账户不存在·2023-02-02 16:13
上一页 26 27 28 29 30 31 32 33 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他