E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Encoder-decoder
Seq2Seq+Attention+Beam Search
Seq2SeqSeq2Seq本质上是条件生成模型(ConditionalGeneration),在现有的模型中,看图说话(Imagecaption)也是类似的条件生成模型,它们的结构很类似,如下图所示都是
Encoder-Decoder
Ding_xiaofei
·
2018-08-10 10:03
深度学习
NLP
Encoder-Decoder
自动生成对联,要试试么?
实现了一份基于seq2seq的自动对联的代码,感兴趣的小伙伴可以下载学习)另外,点击阅读原文尝试微软的自动对联系统(http://duilian.msra.cn/app/couplet.aspx)为什么说
Encoder-Decoder
机器学习算法与Python学习-公众号
·
2018-07-17 19:00
论文笔记(一)【 Disentangled Representation Learning GAN for Pose-Invariant Face Recognition】
(1)通过generator的
encoder-decoder
框架学习了生成和判别的表示(representation);(2)这种表示是从姿态这种人脸变量得出。
daydayjump
·
2018-07-07 11:17
每周论文笔记
Semi-supervised Sequence Learning
encoder-decoder
输入序列文本=['12345','678910','1112131415','1617181920','2122232425']目标序列文本=['onetwothreefourfive
不贪心_9eab
·
2018-06-28 09:12
深度学习语义分割(二)SegNet论文解读
SegNet是是第一次在语义分割中应用编码器-解码器(
encoder-decoder
)的结构。
su扬帆启航
·
2018-06-23 17:05
深度学习与机器学习
Image caption——图像理解——看图说话综述(2015-2018)
有点类似于看图说话的感觉,此次我想讲的主要是自2015年出现的
encoder-decoder
这一些列模型以及他们的变体。
咸鱼就是咸鱼
·
2018-05-31 12:31
深度学习
论文笔记:GRU----RNN
Encoder-Decoder
>这篇论文在传统的
Encoder-Decoder
模型上使用RNN,模型结构如下:看图就知道要说什么了,亮点在于文章对隐层节点的创新:先回顾下传统的naiveRNN:看图就行,不多说。
白痴一只
·
2018-05-25 20:36
论文笔记(attention 1)----NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE
1.weaknessofsimpleRNNencArchitecture传统的neuralmachinetranslation大都是基于
encoder-decoder
模型,即通过一个encoder将源句子编码成一个固定长度的向量表示
白痴一只
·
2018-05-25 16:52
【论文阅读】Neural Machine Translation by Jointly Learning to Align and Translate
其实也就是attention机制introduction:常用的
encoder-decoder
模式在编码成固定长度的向量时,可能会失去一些有用的信息,
BeforeEasy
·
2018-05-19 20:53
nltk
神经网络
论文
用
Encoder-Decoder
模型自动生成文本摘要
当针对机器翻译开发的
Encoder-Decoder
循环神经网络结构应用于文本摘要问题时,它也已经被证明是有效的。
mlooker
·
2018-05-17 11:43
人工智能
深度讨论
贪心科技
AI
attention model--Neural machine translation by jointly learning to align and translate论文解读
为什么需要attention传统的
encoder-decoder
模型大致如下图所示:可以看出传统模型把句子的所有语义信息浓缩为一个中间语义C,每一个输出的y都是利用了同一个C,所以输出的每个y都利用了相同的语义信息
bobobe
·
2018-05-11 17:14
nlp
非RNN的新型seq2seq任务网络模型(self-attention机制)
目前业界主流方法在解决seq2seq任务的时候往往采取的是
encoder-decoder
架构,由
guoyuhaoaaa
·
2018-05-02 14:55
深度学习
《
Encoder-Decoder
with Atrous Separable Convolution for Semantic Image Segmentation》论文笔记
论文地址:https://arxiv.org/pdf/1802.02611.pdf源码地址:TENSORFLOW语意分割相关,Deeplab3+看了几篇Deeplab的文章。觉得Deeplab的文章的思想还是很相近的,可能方法的创新上不是非常重大的突破。但是方法的应用上都是非常的...嗯,集大成的。通过实验的方式去探索各种方法的结合。探究每一个因素对于网络的影响,从而把前人的精髓都集成到自己的方法
An_chen_
·
2018-04-23 22:46
分割
《Learning Deconvolution Network for Semantic Segmentation》论文笔记
注:文章仅是对自己学习的记录,非专业评论what:文章讲了一个反卷积用于语义分割的模型,这个模型也属于一个
encoder-decoder
模型,与大多数类似的模型一样,传承了FCN的思想,编码网络沿用了VGG
An_chen_
·
2018-04-12 10:14
分割
深度学习---深度学习笔记(七):
Encoder-Decoder
模型和Attention模型
(四):优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(五):循环神经网络的概念,结构和代码注释深度学习笔记(六):LSTM深度学习笔记(七):
Encoder-Decoder
Dean0Winchester
·
2018-04-06 23:37
深度学习
神经网络
机器学习
机器&深度学习
深度学习---深度学习笔记(六):LSTM
(四):优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(五):循环神经网络的概念,结构和代码注释深度学习笔记(六):LSTM深度学习笔记(七):
Encoder-Decoder
Dean0Winchester
·
2018-04-06 23:56
深度学习
神经网络
机器学习
机器&深度学习
深度学习---深度学习笔记(五):循环神经网络的概念,结构和代码注释
(四):优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(五):循环神经网络的概念,结构和代码注释深度学习笔记(六):LSTM深度学习笔记(七):
Encoder-Decoder
Dean0Winchester
·
2018-04-06 23:31
机器&深度学习
深度学习---深度学习笔记(四):优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)
(四):优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(五):循环神经网络的概念,结构和代码注释深度学习笔记(六):LSTM深度学习笔记(七):
Encoder-Decoder
Dean0Winchester
·
2018-04-06 23:49
深度学习
神经网络
机器&深度学习
深度学习---深度学习笔记(三):激活函数和损失函数
(四):优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(五):循环神经网络的概念,结构和代码注释深度学习笔记(六):LSTM深度学习笔记(七):
Encoder-Decoder
Dean0Winchester
·
2018-04-06 23:44
机器&深度学习
深度学习---深度学习笔记(二):简单神经网络,后向传播算法及实现
(四):优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(五):循环神经网络的概念,结构和代码注释深度学习笔记(六):LSTM深度学习笔记(七):
Encoder-Decoder
Dean0Winchester
·
2018-04-06 23:20
深度学习
神经网络
机器&深度学习
深度学习---深度学习笔记(一):logistic分类
(四):优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(五):循环神经网络的概念,结构和代码注释深度学习笔记(六):LSTM深度学习笔记(七):
Encoder-Decoder
Dean0Winchester
·
2018-04-06 22:05
机器&深度学习
DeepLab V3+:DeepLab系列的极致?
理解DeepLabV3+的构架首先需要理解DeepLabV3(可以参考博主的前一篇博客),V3+基本上可以理解成在原始的基础上增加了
encoder-decoder
模块,进一步保护物体的边缘细节信息。
JYZhang_sh
·
2018-03-17 19:27
深度学习
论文阅读学习 - (DeeplabV3+)
Encoder-Decoder
with Atrous Separable Convolution
论文阅读学习-(DeepLabV3+)Encoder-DecoderwithAtrousSeparableConvolutionforSemanticImageSegmentation[Paper][Code-TensorFlow]摘要:空间金字塔池化模块(spatialpyramidpooling,SPP)和编码-解码结构(encode-decoder)用于语义分割的深度网络结构.SPP利用对多
AIHGF
·
2018-03-14 16:25
语义分割
论文阅读
语义分割
极简笔记 DeepLabv3+
极简笔记】Encoder-DecoderwithAtrousSeparableConvolutionforSemanticImageSegmentation文章核心:1.提出DeepLabv3+,采用
encoder-decoder
Hibercraft
·
2018-03-09 16:05
极简笔记
TPAMI2017 SegNet:A Deep Convolutional
Encoder-Decoder
Architecture for Scene Segmentation
论文链接:https://arxiv.org/abs/1511.005611、简介目前,利用深度神经网络进行语义分割虽然取得了一定效果,但在进行特征提取的时候,通过pooling进行下采样,会导致结果较为粗糙。为得到更好的分割效果,本文作者提出了一种用于语义分割的全卷积网络:SegNet网络,提高分辨率的同时对于边界的定位较为准确。SegNet以场景理解为目标应用,是一种end-to-end网络,
春枫琰玉
·
2018-03-02 00:28
深度学习
神经网络机器翻译总结
NMT其实是一个
encoder-decoder
系统,encoder把源语言序列进行编码,并提取源语言中信息,通
littlely_ll
·
2018-01-13 10:30
自然语言处理
自然语言处理
[论文笔记]SegNet: A Deep Convolutional
Encoder-Decoder
Architecture for Image Segmentation
论文链接:SegNet:ADeepConvolutionalEncoder-DecoderArchitectureforImageSegmentationcaffe代码:https://github.com/TimoSaemann/caffe-segnet-cudnn5工程主页:http://mi.eng.cam.ac.uk/projects/segnet/本篇论文使用了对称的Encoder-De
残月飞雪
·
2017-12-25 22:12
论文笔记
Encoder-Decoder
模型
1.起源:paper:SequencetoSequenceLearningwithNeuralNetwork2014年,Sutskever提出的简单Enc-Dec模型解决sequencetosequence转换的问题,采用了编码和解码的结构如下图示例,其中,编码是将sourcesequence(x1,x2,x3,x4,...)转化为一个固定长度的contextvector(c),解码是将该cont
chinabing
·
2017-12-10 10:10
机器学习
语音识别
轰炸理解深度学习里面的
encoder-decoder
模型
微信公众号
Encoder-Decoder
(编码-解码)是深度学习中非常常见的一个模型框架,比如无监督算法的auto-encoding就是用编码-解码的结构设计并训练的;比如这两年比较热的imagecaption
Microstrong0305
·
2017-12-08 16:02
机器学习
深度学习-->NLP-->Seq2Seq Learning(
Encoder-Decoder
,Beam Search,Attention)
之前总结过RNNLM,是一个SequenceModel,其结构类似如下:这里面是一个一个的输出。我们如果以这种方式做机器翻译,每一个时刻输入一个词,相应的翻译一个词,显然这种一个一个单词的翻译方式不是很好,因为没有联系上下文进行翻译。我们希望先把一整句话喂给模型,然后模型在这一个整句的角度上来进翻译。这样翻译的效果更好。所以本篇博文要总结的是Seq2SeqModel,给出一个完整的句子,能得出另外
村头陶员外
·
2017-11-22 23:26
深度学习-神经网络
机器学习
自然语言处理
基于简单seq to seq 的聊天机器人+代码实现 (tensorfow 1.1版本)
一、seq2seq模型简介基本的
Encoder-Decoder
模型图如下:输入的序列为['A','B','C"]输出的序列为['W','X','Y','Z"]二、tensorflow1.1seq2seq
momaojia
·
2017-09-04 15:21
自然语言处理
tensorflow
机器翻译基础
本文首先将简要介绍传统的统计机器翻译方法以及神经网络在机器翻译中的应用,然后介绍NMT中基本的“编码-解码”框架(
Encoder-Decoder
)。
刷街兜风
·
2017-09-03 22:53
深度学习
TACOTRON:端到端的语音合成
tacotron主要是将文本转化为语音,采用的结构为基于
encoder-decoder
的Seq2Seq的结构。其中还引入了注意机制(attentionmechanism)。
左左左左想
·
2017-07-09 20:53
深度学习
SegNet 速览笔记
Architecture总体上是
encoder-decoder
的结构。encoder采用了与VGG16网络相同的13层卷积层,decoder由上采样和卷积层构成。
Woolseyyy
·
2017-07-07 15:25
深度神经网络
计算机视觉
达观数据智能问答技术研究
智能问答一般用于解决企业客服、智能资讯等应用场景,实现的方式多种多样,包括简单的规则实现,也可以基于检索实现,还可以通过
encoder-decoder
框架生成,本文通过几种常见的问答技术,概要介绍了达观数据智能问答相关原理研究
达观数据
·
2017-07-03 11:32
数据库
IT工程师
达观数据智能问答技术研究
智能问答一般用于解决企业客服、智能资讯等应用场景,实现的方式多种多样,包括简单的规则实现,也可以基于检索实现,还可以通过
encoder-decoder
框架生成,本文通过几种常见的问答技术,概要介绍了达观数据智能问答相关原理研究
达观数据
·
2017-07-03 11:32
数据库
IT工程师
对Attention is all you need 的理解
传统的神经机器翻译大都是利用RNN或者CNN来作为
encoder-decoder
的模型基础,而谷歌最新的只基于Attention的Transforme
mijiaoxiaosan
·
2017-06-14 19:28
自然语言处理
深度学习
Multimodal —— 看图说话(Image Caption)任务的论文笔记(二)引入attention机制
在上一篇博客中介绍的论文“Showandtell”所提出的NIC模型采用的是最“简单”的
encoder-decoder
框架,模型上没有什么新花样,使用CNN提取图像特征,将Softmax层之前的那一层vector
Determined22
·
2017-06-07 02:00
Encoder decoder模型和Attention模型
1.Encoder-Decoder模型及RNN的实现所谓
encoder-decoder
模型,又叫做编码-解码模型。这是一种应用于seq2seq问题的模型。那么seq2seq又是什么呢?
qq_34420188
·
2017-05-03 11:22
深度学习
机器学习
编码解码with attention model
现有的基于神经网络的机器翻译都是基于一类
encoder-decoder
方法。encoder将输入映射到一个固定长度的向量(这个向量需要包含输入的所有信息,)然后输出翻译。
longxiao666
·
2017-04-14 14:59
PaperWeekly 第二十五期 --- 增强学习在image caption任务上的应用
(如果你对ImageCaptioning这个任务不熟悉的话,请移步二十二期PaperWeekly第二十二期---ImageCaption任务综述)ImageCaptioning的模型一般是
encoder-decoder
算法学习者
·
2017-03-23 12:53
DL
LSTM的
Encoder-Decoder
模式
激活函数和损失函数深度学习笔记:优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(四):循环神经网络的概念,结构和代码注释深度学习笔记(五):LSTM深度学习笔记(六):
Encoder-Decoder
Modozil
·
2017-03-01 15:55
神经网络
深度学习
深度学习
LSTM
Encoder-Decoder
模型和Attention模型
看了下知乎上的几个回答,很多人都推荐了一篇文章NeuralMachineTranslationbyJointlyLearningtoAlignandTranslate我看了下,感觉非常的不错,里面还大概阐述了
encoder-decoder
Donny-You
·
2017-01-03 18:07
Deep
Learning
Encoder-Decoder
模型和Attention模型
attention模型,知乎上很多人都推荐了一篇文章NeuralMachineTranslationbyJointlyLearningtoAlignandTranslate感觉这篇文章非常的不错,里面还大概阐述了
encoder-decoder
撒哈拉土狼
·
2017-01-03 10:32
深度学习
【论文笔记】Sequence to sequence Learning with Neural Networks
imagecaption的模型也很多都是sequencetosequence(
encoder-decoder
)的,当时看了很费解,这
Issac_33
·
2016-12-11 23:57
RNN
NLP
papers
深度学习(BOT方向) 学习笔记(2) RNN
Encoder-Decoder
及 LSTM 学习
深度学习(BOT方向)学习笔记(2)Sequence2Sequence学习2PS:这一个系列比较语无伦次,后期会有一个refined版的,这个系列相当于草稿1前言这个系列的笔记拖了很久了,一直没时间仔细详细写,一来是因为自己能力不足,学习进度也很慢,二是真的很懒,也没有什么outline,所以一直拖着没写,现在终于挤出第二篇来了。话说之前的第一篇,我很匆忙的写了写Sequence2Sequence
MebiuW
·
2016-11-25 22:28
深度学习
Seq2Seq
RNN
LSTM
机器学习
NLP
深度学习
Neural Dialogue Generation
.计算机需要理解你所问的内容2.计算机需要对你的问题生成有意义的序列,这需要领域知识、对话上下文、世界知识背景知识一开始利用SMT来生成响应,利用phrase-baseMT抽取高频模式:后来用神经网络
encoder-decoder
ryanloucc
·
2016-11-20 08:58
NLP
Related
Attention model
最先在计算机视觉中被应用于图片识别的问题,之后在自然语言处理(NLP)和计算机视觉(CV)中经常结合递归神经网络结构RNN、GRU、LSTM等深度学习算法,被称之为RecurrentAttentionModel(RAM),其核心就是一个
Encoder-Decoder
迷川浩浩_ZJU
·
2016-11-08 16:59
视觉语义
深度学习笔记(六):
Encoder-Decoder
模型和Attention模型
激活函数和损失函数深度学习笔记:优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(四):循环神经网络的概念,结构和代码注释深度学习笔记(五):LSTM深度学习笔记(六):
Encoder-Decoder
multiangle
·
2016-10-15 23:25
深度学习
nlp
seq2seq
attention
自然语言处理
机器学习&深度学习
python
自然语言处理
解析Tensorflow官方English-Franch翻译器demo
模型采用了
encoder-decoder
的框架结果,佐以attention机制来实现论文中的英语法语翻译功能。同时,模型
mydear_11000
·
2016-10-10 11:32
RNN/LSTM
tensorflow
词向量与语言模型
上一页
8
9
10
11
12
13
14
15
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他