Encoder-decoder 第12页

Describtion Video by Exploting Temporal Structurre

作者提出了将3D卷+attention机制融入encoder-decoder结构中，同时考虑了局部时序信息和全局时序信息。

BigBig_Fish·2019-12-02 01:58

时间序列预测——DA-RNN模型

本文将介绍一种基于Seq2Seq模型(Encoder-Decoder模型)并结合Attention机制的时间序列预测方法。

Momodel·2019-11-01 18:46

一文看懂 NLP 里的模型框架 Encoder-Decoder 和 Seq2Seq

Encoder-Decoder和Seq2SeqEncoder-Decoder是NLP领域里的一种模型框架。它被广泛用于机器翻译、语音识别等任务。

人工智能知识库·2019-10-30 05:09

语义分割网络 U-Net 详解

Unet跟FCN都是Encoder-Decoder结构，结构简单但很有效。Encoder负责特征提取，你可以将自己熟悉的各种特征提取网

Zero黑羽枫·2019-10-14 20:15

Transformer

问题求解：Transformer整体架构Transformer是典型的Seq2Seq架构的模型，其核心的骨架依然是encoder-decoder两个模块，和传统的S2S问题不同的地方在于Transformer

hyserendipity·2019-10-09 19:00

Transformer

在该论文中Transformer用于encoder-decoder架构。事实上Transformer可以单独应用于encoder或者单独应用于decoder。Trans

nxf_rabbit75·2019-10-02 11:00

CSDN日报190929：面试官：兄弟，说说基本类型和包装类型的区别吧

深度学习|[深度学习]自然语言处理—Attention作者：小墨鱼~~要了解深度学习中的注意力模型，就不得不先谈Encoder-Decoder框架，因为目前大多数注意力模型附着在Encoder-Decoder

CSDN官方博客·2019-09-29 15:10

transformer模型分析

学习一个模型，我觉得最重要的是首先要明白模型要做什么，以及它为什么这样做，对transformer来说，它本质上还是一个encoder-decoder（seq2seq）模型，在之前提到

JessssseYule·2019-09-28 19:06

简单理解Transformer结构

文章目录Encoder-decoder结构Transformer结构Transformer的子结构自注意力机制(Selfattention)Mask多头注意力(multi-headattention)位置编码

我最怜君中宵舞·2019-09-26 13:47

论文解读：Interactive Boundary Prediction for Object Selection

设计encoder-decoder的框架（其实就是DeepISeg框架

JYZhang_sh·2019-09-02 14:31

seq2seq通俗理解----编码器和解码器(TensorFlow实现)

段不定⻓的法语⽂本序列，例如：英语输⼊：“They”、“are”、“watching”、“.”法语输出：“Ils”、“regardent”、“.”当输⼊和输出都是不定⻓序列时，我们可以使⽤编码器—解码器（encoder-decoder

mantch·2019-08-30 11:00

Selection GAN：基于级联语义引导下的多通道注意力选择图像翻译

一．研究背景目前图像翻译问题的解决方案一般是基于Encoder-Decoder结构，即将原域图像编码后再解码到目标域中，然而这种方案在原域与目标域图像具有显著不同结构或重叠区域极少的情况下时翻译效果会大打折扣

Coding_Ann·2019-08-21 14:05

Selection GAN：基于级联语义引导下的多通道注意力选择图像翻译

一．研究背景目前图像翻译问题的解决方案一般是基于Encoder-Decoder结构，即将原域图像编码后再解码到目标域中，然而这种方案在原域与目标域图像具有显著不同结构或重叠区域极少的情况下时翻译效果会大打折扣

Coding_Ann·2019-08-21 14:05

tensorflow踩坑记之seq2seq

问题描述：采用encoder-decoder框架实现基于关键词的文本生成，在训练阶段，decoder借助了三板斧“T

gbl5555·2019-08-20 21:45

attention

说attention模型之前呢，先了解一下Encoder-Decoder框架的概念因为目前绝大多数文献中出现的AM模型是附着在Encoder-Decoder框架下的，当然，其实AM模型可以看作一种通用的思想

小智rando·2019-07-28 20:54

Encoder-Decoder架构与注意力机制

Encoder-Decoder架构模型，如下图：Encoder会利用整个原始句子生成一个语义向量，Decoder再利用这个向量翻译成其它语言的句子。这样可以把握整个句子的意思、句法结构、性别信息等等。

姬香·2019-07-14 00:15

Attention and Self-Attention

2.Encoder-Decoder框架在学习attention模型之前，我们先回忆encoder-decoder框架。

s苏薳·2019-07-08 11:17

ctc和attention-based解码器的比较

Attention是一种权重向量或矩阵，其往往用在Encoder-Decoder架构中，其权重越大，表示的context对输出越重要。计算方式有很多亚种，但是核心都是通过神经网络学习而得到对应的权重。

alibabazhouyu·2019-06-28 09:37

利用单语种数据合成多语种语音--Building a mixed-lingual neural TTS system with only monolingual data

/pdf/1904.06063v1.pdf合成样例地址：https://angelkeepmoving.github.io/mixed-lingual-tts/index.htm摘要本文主要研究对象是Encoder-Decoder

静夜寒风·2019-06-27 16:50

语言模型，bert，transformer，rnn

RNN问题：问题.1导致时间太长，效率低，不能够很深问题2：单项信息流，‘it’需要考虑前后的情况，RNN不支持解决方法，多个RNN如encoder-decoder就用attention，单个RNN就是

alanjia163·2019-06-12 21:58

Encoder-Decoder LSTM模型对家庭用电进行多步时间序列预测(多变量输入)

在本节中，我们将更新上一节中开发的编码器-解码器LSTM，使用8个时间序列变量中的每一个来预测下一个标准周的每日总功耗。我们将通过将每个一维时间序列作为单独的输入序列提供给模型来实现这一点。LSTM将依次创建每个输入序列的内部表示，这些输入序列将由解码器一起解释。使用多元输入有助于解决这样的问题，即输出序列是来自多个不同特征的先前时间步长的某个函数，而不只是(或包括)预测的特征。目前还不清楚在电力

颠沛的小丸子·2019-06-11 21:26

Encoder-Decoder LSTM Model模型对家庭用电进行多步时间序列预测

在本节中，我们可以更新普通的LSTM以使用编解码器模型。这意味着模型不会直接输出向量序列。相反，该模型将由两个子模型组成，用于读取和编码输入序列的编码器，以及读取编码的输入序列并对输出序列中的每个元素进行一步预测的解码器。这种差别很细微，因为实际上这两种方法都可以预测序列输出。重要的不同之处在于，解码器使用了LSTM模型，这使得解码器既可以知道前一天在序列中预测了什么，又可以在输出序列时积累内部状

颠沛的小丸子·2019-06-11 21:49

Transformer模型--Attention机制

在现有的Encoder-Decoder框架中，都是基于CNN或者RNN来实现的。而Transformer模型汇中抛弃了CNN和RNN，只使用了Attention来实现。

醒了的追梦人·2019-06-06 15:52

[NLP学习笔记-Task10] Transformer + BERT

Encoder-Decoder框架Encoder-Decoder是为seq2seq（序列到序列）量身打造的一个深度学习框架，在机器翻译、机器问答等领域有着广泛的应用。

Aiclin·2019-05-30 16:58

【语义分割系列：二】SegNet 论文阅读翻译笔记

ADeepConvolutionalEncoder-DecoderArchitectureforRobustSemanticPixel-WiseLabellingSegNet官方网站IntroduceSegNet是一个encoder-decoder

鹿鹿最可爱·2019-05-26 10:39

图像分割：LEDNet: A Lightweight Encoder-Decoder Network for Real-time Semantic Segmentation

文章日期：2019年arXiv:https://arxiv.org/abs/1905.02423github:https://github.com/xiaoyufenfei/LEDNet今天看到一篇实时分割的文章，简洁明了，有较好的借鉴意义，所以记录分享一下。创新点：1：对残差块进行了优化，使用split和shuffle操作，参数量大幅降低，提升了前向的推理速度；2：使用1x3，3x1，以及dil

微风❤水墨·2019-05-21 14:35

论文阅读笔记|NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE

在传统的Encoder-Decoder模型中，源文本被Encoder转化为一个固定长度的向量，而Decode

BillDingDJ·2019-05-18 15:00

Baby Talk and Neural Baby Talk

code文章列出了传统babytalk，neuralbabytalk和主流encoder-decoder三种生成图像描述方法的示意图。这个方法主要的思

fuxin607·2019-05-16 21:54

CVPR 2019 | 基于场景图信息的图像描述生成方法

在imagecaptioning任务中，常规的encoder-decoder框架都是利用检测网络，如CNN提取特征，然后直接送到decoder端进行解码生成句子。

a609640147·2019-05-05 09:04

transformer 翻译模型

google出品,基于encoder-decoder架构的seq2seq自然语言翻译模型.paper见参考[1].创新之处是弃用RNN,CNN这样的结构,采用self-attention与positional-encoding

yichudu·2019-04-21 23:36

transformer

传统的神经机器翻译大都是利用RNN或者CNN来作为encoder-decoder的模型基础，而谷歌最新的只基于Attention的T

Mr_wuliboy·2019-04-10 10:49

计算机视觉中attention机制的理解

文章提出，以往nlp里大量使用RNN结构和encoder-decoder结构，RNN及其衍生网络的缺点就是慢，问题在于前后隐藏状态的依赖性，无法实现并

托尼小白·2019-04-04 16:36

深度学习：transformer模型

arxiv上的一篇文章《Attentionisallyouneed》，提出解决sequencetosequence问题的transformer模型，用全attention的结构代替了lstm，抛弃了之前传统的encoder-decoder

AcceptedLin·2019-03-30 15:21

Attention如何在Encoder-Decoder循环神经网络中见效（原理篇）

转眼间来到了二年级下学期，马上就要面临找工作的巨大压力。起风了，唯有努力生存~愿努力可以有所成效。这一篇想要讲一讲Attention机制。文章框架主要翻译自HowDoesAttentionWorkinEncoder-DecoderRecurrentNeuralNetworks，也参考了一些笔者觉得比较不错的博客。Attention（注意力机制）是为了提高Encoder-DecoderRNN在机器翻

翻滚的老鼠屎·2019-03-26 15:37

【深度学习】各种注意力机制：encoder-decoder,self-attention,multi-head attention的区别

最近以QA形式写了一篇nlp中的Attention注意力机制+Transformer详解分享一下自己的观点，目录如下：一、Attention机制剖析1、为什么要引入Attention机制？2、Attention机制有哪些？（怎么分类？）3、Attention机制的计算流程是怎样的？4、Attention机制的变种有哪些？5、一种强大的Attention机制：为什么自注意力模型（self-Atten

UESTC_20172222·2019-03-24 21:04

Transformer 与BERT模型

Transformer与BERT模型1.Transformer1.1序列到序列任务与Encoder-Decoder框架1.2Transformer的优势1.3Transformer的框架原理参考链接2.

紫砂痕·2019-03-22 22:37

编码器—解码器和注意力机制

输入是可以是英语的一段话，输出可以是法语的一段话，输入和输出皆不定长，例如英语：Theyarewatching.法语：Ilsregardent.当输入输出都是不定长序列时，我们可以使用编码器—解码器（encoder-decoder

lizzy05·2019-03-19 00:04

深度学习的attention机制笔记

原文关于深度学习中的注意力机制，这篇文章从实例到原理都帮你参透了不能转载，就自己摘要了一些．attention机制源于人类快速处理视觉信息的大脑机制．通过重点关注目标区域，抑制无关区域，从而从大量信息中快速筛选出有价值的信息Encoder-Decoder

koibiki·2019-03-18 19:01

【Show, Attend and Tell】--- 阅读笔记

转自对酒当鸽CSDN这篇论文提出了Attention机制对于Encoder-Decoder进行改进。在Encoder-Decoder结构中，Encoder将输入序列编码为hnh_nhn。

PandaDreamer·2019-03-14 20:02

零基础学nlp【2】注意力机制(Neural machine translation by jointly learning to align and translate)

BengioY.Neuralmachinetranslationbyjointlylearningtoalignandtranslate[J].arXivpreprintarXiv:1409.0473,2014主要内容在使用encoder-decoder

rory0114·2019-03-08 16:51

SegNet 笔记

2019March08segnetSegNet笔记关键点encode-decode结构upsampling：poolingindices一、网络结构SegNet是一个encoder-decoder的网络结构

cpongo3·2019-03-08 10:37

Encoder-Decoder具体过程

原文链接Encoder的具体实现input:不是原始的序列，而是将序列中的每个元素都转换为字典中对应的id。不管是train还是inference阶段，为了效率都是一次输入一个mini-batch，所以需要为input定义一个int型rank=2的placeholder。？embedding：embedding作用，定义为trainable=True的变量，这样即使使用pre-trained的词向

jiaqi71·2019-02-22 14:07

attention、self-attention、transformer和bert模型基本原理简述笔记

my.oschina.net/u/3851199/blog/30124762019独角兽企业重金招聘Python工程师标准>>>attention以google神经机器翻译(NMT)为例无attention：encoder-decoder

weixin_33836874·2019-02-20 16:00

[LSTM学习笔记7]How to Develop Encoder-Decoder LSTMs

一.结构Encoder-DecoderLSTM是为了解决NLP问题开发的，在统计机器翻译领域展示出强大的性能。这种架构常用于：MachineTranslationLearningtoExecuteConversationalModelingMovementClassification示例：model=Sequential()model.add(LSTM(...,input_shape=(...))

cskywit·2019-02-19 17:29

transformer

arxiv上的一篇文章《Attentionisallyouneed》，提出解决sequencetosequence问题的transformer模型，用全attention的结构代替了lstm，抛弃了之前传统的encoder-decoder

Xwei1226·2019-02-14 16:34

Seq2Seq模型应用案例

Seq2Seq模型应用案例（：Seq2Seq是Encoder-Decoder（编码器与解码器）模型，输入是一个序列,输出也是一个序列，适用于输入序列与输出序列长度不等长的场景，如机器翻译、人机对话、聊天机器人等

段智华·2019-02-12 20:38

机器翻译Seq2Seq(Encoder-Decoder)+Attention模型Tensorflow实现

英法机器翻译Tensorflow代码实现1、Encoder-Decoder在网上大家能够找到很多关于，sequencetosequence模型。

梯度下降·2019-02-12 11:50

NLP课程：Encoder-Decoder框架、Attention、Transformer、ELMO、GPT、Bert学习总结

Encoder-Decoder框架：可以把它看作适合处理由一个句子（或篇章）生成另外一个句子（或篇章）的通用处理模型。

张楚岚·2019-01-31 11:48

[深度学习概念]·深度学习Transformer模型介绍

Transformer结构亮点self-AttentionMultiHeadAttentionpositionEncoding总结一下动机常见的seq2seq问题，比如摘要提取，机器翻译等大部分采用的都是encoder-decoder

小宋是呢·2019-01-18 22:36

图解什么是 Transformer

Transformer在机器翻译任务上的表现超过了RNN，CNN，只用encoder-decoder和attention机制就能达到很好的效果，最大的优点是可以高效地并行化。

Alice熹爱学习·2019-01-10 15:09

推荐频道

Encoder-decoder

Describtion Video by Exploting Temporal Structurre

时间序列预测——DA-RNN模型

一文看懂 NLP 里的模型框架 Encoder-Decoder 和 Seq2Seq

语义分割网络 U-Net 详解

Transformer

Transformer

CSDN日报190929：面试官：兄弟，说说基本类型和包装类型的区别吧

transformer模型分析

简单理解Transformer结构

论文解读：Interactive Boundary Prediction for Object Selection

seq2seq通俗理解----编码器和解码器(TensorFlow实现)

Selection GAN：基于级联语义引导下的多通道注意力选择图像翻译

Selection GAN：基于级联语义引导下的多通道注意力选择图像翻译

tensorflow踩坑记之seq2seq

attention

Encoder-Decoder架构与注意力机制

Attention and Self-Attention

ctc和attention-based解码器的比较

利用单语种数据合成多语种语音--Building a mixed-lingual neural TTS system with only monolingual data

语言模型，bert，transformer，rnn

Encoder-Decoder LSTM模型对家庭用电进行多步时间序列预测(多变量输入)

Encoder-Decoder LSTM Model模型对家庭用电进行多步时间序列预测

Transformer模型--Attention机制

[NLP学习笔记-Task10] Transformer + BERT

【语义分割系列：二】SegNet 论文阅读翻译笔记

图像分割：LEDNet: A Lightweight Encoder-Decoder Network for Real-time Semantic Segmentation

论文阅读笔记|NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE

Baby Talk and Neural Baby Talk

CVPR 2019 | 基于场景图信息的图像描述生成方法

transformer 翻译模型

transformer

计算机视觉中attention机制的理解

深度学习：transformer模型

Attention如何在Encoder-Decoder循环神经网络中见效（原理篇）

【深度学习】各种注意力机制：encoder-decoder,self-attention,multi-head attention的区别

Transformer 与BERT模型

编码器—解码器和注意力机制

深度学习的attention机制笔记

【Show, Attend and Tell】--- 阅读笔记

零基础学nlp【2】 注意力机制(Neural machine translation by jointly learning to align and translate)

SegNet 笔记

Encoder-Decoder具体过程

attention、self-attention、transformer和bert模型基本原理简述笔记

[LSTM学习笔记7]How to Develop Encoder-Decoder LSTMs

transformer

Seq2Seq模型应用案例

机器翻译Seq2Seq(Encoder-Decoder)+Attention模型Tensorflow实现

NLP课程：Encoder-Decoder框架、Attention、Transformer、ELMO、GPT、Bert学习总结

[深度学习概念]·深度学习Transformer模型介绍

图解什么是 Transformer

零基础学nlp【2】注意力机制(Neural machine translation by jointly learning to align and translate)