encode-decode

Encoder、Decoder和Encoder-Decoder

首先LLM有3种架构：Encoder-only、Decoder-only、encode-decode整体情况1、Encoder将可变长度的输入序列编码成一个固定长度的向量，比如在bert中应用的encoder

lanmengyiyu·2023-11-29 08:38

NLP实践——VQA/Caption生成模型BLIP-2的应用介绍

很久很久之前我写过一个简单的imagecaption项目的介绍，那个模型原理比较简单，就是encode-decode模式，但是项目却不怎么好运行，而现在，随着技术的迭代升级，还有huggingface社区的加持

常鸿宇·2023-11-25 06:01

H.264编码格式简单分析

https://github.com/jiayayao/DataSheet/tree/master/encode-decode/h264。

huabiaochen·2023-11-23 20:33

注意力机制（二）

本文参考自:原文地址导读目前采用编码器-解码器(Encode-Decode)结构的模型非常热门，是因为它在许多领域较其他的传统模型方法都取得了更好的结果。

caiyun987·2023-11-16 19:31

类ChatGPT代码级解读：如何从零起步实现transformer、llama/ChatGLM

transformertransformer强大到什么程度呢，基本是17年之后绝大部分有影响力模型的基础架构都基于的transformer(比如，这里有200来个，包括且不限于基于decode的GPT、基于encode的BERT、基于encode-decode

v_JULY_v·2023-04-12 20:51

BiSeNet V2网络结构详解

通常语义分割都是encode-decode结构，encode主要就

好好学图算·2023-04-04 20:48

注意力机制

目录1.引言2.attention机制1.引言因为encoder-decoder的预测精度有限，容易导致眉毛胡子一把抓，无法抓住重点2.attention机制attention机制就是将之前encode-decode

菜虚空·2023-01-03 17:30

Transformer 网络

Transformer从整体框架来讲，Transformer其实就是encode-decode框架，即就是编码解码。只不过在编码和解码的内部比较复杂，经过了多次复杂计算。

卡伊德·2022-12-14 06:18

神经网络学习笔记3——Transformer、VIT与BoTNet网络

理解与代码神经网络学习笔记2——VGGNet神经网络结构与感受野理解与代码文章目录系列文章目录A、Transformer模型一、细节补充1.并行计算2、BatchNorm和LayerNorm二、编码器-解码器（encode-decode

RanceGru·2022-11-19 13:06

循环神经网络 RNN 详细图解！

后面不管是encode-decode框架，还是注意力模型，以及自注意力模型，以及更加强大的Bert模型家族，都是站在RNN的肩上，不断演化、变强的。

Wang_AI·2022-10-12 19:00

图像分割之U2-Net介绍

2005.09007.pdf代码：https://codeload.github.com/NathanUA/U-2-Net/zip/masterU2net是基于unet提出的一种新的网络结构，同样基于encode-decode

xuzz_498100208·2022-08-11 07:02

从RNN到Attention到Transformer系列-Encode-Decode(Seq2Seq)介绍及代码实现

深度学习知识点总结专栏链接:深度学习知识点总结_Mr.小梅的博客-CSDN博客本专栏主要总结深度学习中的知识点，从各大数据集比赛开始，介绍历年冠军算法；同时总结深度学习中重要的知识点，包括损失函数、优化器、各种经典算法、各种算法的优化策略BagofFreebies(BoF)等。本章介绍从RNN到Attention到Transformer系列-Decode-Encode(Seq2Seq)目录3.3E

Mr.小梅·2022-05-14 09:08

RNN 图解版

后面不管是encode-decode框架，还是注意力模型，以及自注意力模型，以及更加强大的Bert模型家族，都是站在RNN的肩上，不断演化、变强的。

算法channel·2021-05-05 10:34

《变分自动编码器在协同过滤中的使用》做推荐召回《Variational Autoencoders for Collaborative Filtering 》

传统encode-decode框架把Inputencode到一个“固定”的编码，然后再利用decode将编码复原到目标，对于未知的输入可能无法decode到有意义的输出，而VAE在encode过程得到一个隐式的分布得到均值和方差两个参数

维尼弹着肖邦的夜曲·2020-09-11 23:08

LSTM模型训练精准率高测试精准率很低解决办法

前段时间训练一个问答模型（QA）时，发现一个有趣的问题，模型采用LSTM技术，encode-decode架构（见下图）。

彭朝劲·2020-09-10 18:37

深度学习系列：Seq2Seq原理及相关案例（附代码）

基于编码-解码（encode-decode）的序列到序列架构序列到序列（SequencetoSequence）模型是现今序列任务上的王者，如翻译，语音识别等任务上。

weixin_39848830·2020-08-23 08:29

deeplabv3:Rethinking Atrous Convolution for Semantic Image Segmentation 阅读笔记

第二类应用encode-decode结

shenhuaifeng·2020-07-30 00:26

deepLabV3+ 阅读笔记

原文：Encoder-DecoderwithAtrousSeparableConvolutionforSemanticImageSegmentationAbstract:结合spp模块和encode-decode

shenhuaifeng·2020-07-30 00:55

NPL实践系列：9、Attention原理

1.Attention机制由来编码器-解码器(Encode-Decode)结构在许多领域较其他的传统模型方法都取得了更好的结果。

风狂的学者·2020-06-26 15:05

Learning Deconvolution Network for Semantic Segmentation

整体架构比较类似于SegNet的"Encode-Decode"的过程，网络的架构如下图，与SegNet有着很大的相似的地方，整体是一个VGG16中卷积操作部分的架构。

粗茶丶秋刀鱼·2020-04-14 09:25

注意力机制（二）

导读目前采用编码器-解码器(Encode-Decode)结构的模型非常热门，是因为它在许多领域较其他的传统模型方法都取得了更好的结果。

Olivaf·2019-09-26 18:18

语义分割之FCN、Deeplab V3+

dagongji10·2019-05-22 19:16

注意力机制在图像描述模型上的几篇论文笔记

论文一：ShowandTell:ANeuralImageCaptionGenerator（将图像描述视为机器翻译的任务）本篇论文受机器翻译模型的启发，设计了一种适用于图像描述任务的encode-decode

风后奇门‘·2019-05-11 22:48

SegNet 笔记

2019March08segnetSegNet笔记关键点encode-decode结构upsampling：poolingindices一、网络结构SegNet是一个encoder-decoder的网络结构

cpongo3·2019-03-08 10:37

U-Net 笔记

2019March07unetU-Net笔记医学影像分割的基石关键点encode-decode结构全卷积网络网络输入：overlap-tile（镜像策略）跳跃结构：特征融合（拼接）一、背景在分割问题中，

cpongo333·2019-03-07 22:26

语义分割总结（未完待续）

目前语义分割的方法主要集中在两个大的结构上：1、encode-decode的结构：图像通过encode阶段进行特征抽取，decode则负责将抽取到的信息进行对应的分类复位；2、dialtedconvolutional

gbyy42299·2018-11-01 00:00

GAN李宏毅(1)

的种种变形的收集课程内容1基本概念1.1核心问题1.2算法1.3结果——遍历的创造力2GAN是一种结构学习2.1分类、回归、结构学习2.2结构学习的难度2.3传统解决这个问题的方法3generator自己学会怎么样3.1用encode-decode

chen5561·2018-09-22 17:59

Attention机制的小理解

1.传统的encode-decode模型输入序列：输出序列：中间语义变量所以对于，也就是这就表明输入序列的每一个元素对于输出序列的每一个元素的作用是等价的，这显然是不合理的。

大琳琳爱吃鱼·2018-08-31 18:51

理解Attention机制原理及模型

写在前面目前采用编码器-解码器(Encode-Decode)结构的模型非常热门，是因为它在许多领域较其他的传统模型方法都取得了更好的结果。

kaiyuan_sjtu·2018-08-18 11:22

编码解码with attention model

这种方法和普通的encode-decode方法对比不需要压缩序列的所有信息到中间向量（对于非常长的句子，尤其是

longxiao666·2017-04-14 14:59

深度学习（三十八）初识DL在自然语言序列标注中的应用-未完待续

初识DL在自然语言中的应用原文地址：作者：一、自然语言序列标注虽然之前自己对于HMM、CRF、Word2vec、Attention机制、Encode-Decode等，在自然语言领域的应用已经比较熟悉了，

haoji007·2016-10-17 10:28

深度学习（三十八）初识DL在自然语言序列标注中的应用-未完待续

初识DL在自然语言中的应用原文地址：作者：一、自然语言序列标注虽然之前自己对于HMM、CRF、Word2vec、Attention机制、Encode-Decode等，在自然语言领域的应用已经比较熟悉了，

hjimce·2016-05-01 12:57

深度学习（三十八）初识DL在自然语言序列标注中的应用-未完待续

初识DL在自然语言中的应用原文地址：作者：一、自然语言序列标注虽然之前自己对于HMM、CRF、Word2vec、Attention机制、Encode-Decode等，在自然语言领域的应用已经比较熟悉了

hjimce·2016-05-01 12:00

推荐频道

encode-decode

Encoder、Decoder和Encoder-Decoder

NLP实践——VQA/Caption生成模型BLIP-2的应用介绍

H.264编码格式简单分析

注意力机制（二）

类ChatGPT代码级解读：如何从零起步实现transformer、llama/ChatGLM

BiSeNet V2网络结构详解

注意力机制

Transformer 网络

神经网络学习笔记3——Transformer、VIT与BoTNet网络

循环神经网络 RNN 详细图解！

图像分割之U2-Net介绍

从RNN到Attention到Transformer系列-Encode-Decode(Seq2Seq)介绍及代码实现

RNN 图解版

《变分自动编码器在协同过滤中的使用》做推荐召回 《Variational Autoencoders for Collaborative Filtering 》

LSTM模型训练精准率高测试精准率很低解决办法

深度学习系列：Seq2Seq原理及相关案例（附代码）

deeplabv3:Rethinking Atrous Convolution for Semantic Image Segmentation 阅读笔记

deepLabV3+ 阅读笔记

NPL实践系列：9、Attention原理

Learning Deconvolution Network for Semantic Segmentation

注意力机制（二）

语义分割之FCN、Deeplab V3+

注意力机制在图像描述模型上的几篇论文笔记

SegNet 笔记

U-Net 笔记

语义分割总结（未完待续）

GAN李宏毅(1)

Attention机制的小理解

理解Attention机制原理及模型

编码解码with attention model

深度学习（三十八）初识DL在自然语言序列标注中的应用-未完待续

深度学习（三十八）初识DL在自然语言序列标注中的应用-未完待续

深度学习（三十八）初识DL在自然语言序列标注中的应用-未完待续

《变分自动编码器在协同过滤中的使用》做推荐召回《Variational Autoencoders for Collaborative Filtering 》