Recurrent

《Bidirectional Recurrent Convolutional Neural Network for Relation Classification》阅读笔记

论文标题：BidirectionalRecurrentConvolutionalNeuralNetworkforRelationClassification来源：ACL2016问题：基于深度学习的关系抽取主要方法本文提出了一个基于最短依赖路径（SDP）的深度学习关系分类模型，文中称为双向递归卷积神经网络模型（BRCNN），结构如下图。图1文中提出双向模型，和以往的论文一样，考虑到了实体之间关系的方
bear8133·2019-11-07 02:34

详解循环神经网络(Recurrent Neural Network)

今天的学习资料是这篇文章，写的非常详细，有理论有代码，本文是补充一些小细节，可以二者结合看效果更好：https://zybuluo.com/hanbingtao/note/541458在文末有关于RNN的文章汇总，之前写的大多是概览式的模型结构，公式，和一些应用，今天主要放在训练算法的推导。本文结构：模型训练算法基于RNN的语言模型例子代码实现1.模型和全连接网络的区别更细致到向量级的连接图为什么
不会停的蜗牛·2019-11-05 20:02

【无回溯RNN训练】Training recurrent networks online without backtracking

ThispreventscomputingorevenstoringG(t)formoderatelylarge-dimensionaldynamicalsystems,suchasrecurrentneuralnetworks.1TheNoBackTrackalgorithm1.1Therank-onetrick:anexpectation-preservingreductionWepropos
hzyido·2019-11-02 08:05

TensorFlow-10-基于 LSTM 建立一个语言模型

今日资料：https://www.tensorflow.org/tutorials/recurrent中文版：http://wiki.jikexueyuan.com/project/tensorflow-zh
不会停的蜗牛·2019-11-01 07:49

RECURRENT NEURAL NETWORKS TUTORIAL

RECURRENTNEURALNETWORKSTUTORIAL循环神经网络（RecurrentNeuralNetworks,RNNs,递归神经网络）是一种在自然语言处理方面大有前途的模型。但有别于它的流行，我很难找到关于RNN的原理与实现的资源。这就是我要写这篇教程的原因。这是一篇系列教程，我将从如下几个方面来讲解，1.RNN基础IntroductiontoRNNs(thispost)2.使用Py
NanLi·2019-10-31 20:43

多标签分类：Ensemble Application of Convolutional and Recurrent Neural Networks for Multi-label Text Categ

文章地址：https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=7966144文章标题：EnsembleApplicationofConvolutionalandRecurrentNeuralNetworksforMulti-labelTextCategorization（卷积和递归神经网络在多标签文本分类中的集成应用）IJCNN2017
浩比浩比·2019-10-30 21:11

Bi-directional Recurrent Neural Network (BRNN)双向循环神经网络

双向循环神经网络（BRNN）的基本思想是提出每一个训练序列向前和向后分别是两个循环神经网络（RNN），而且这两个都连接着一个输出层。这个结构提供给输出层输入序列中每一个点的完整的过去和未来的上下文信息。下图展示的是一个沿着时间展开的双向循环神经网络。六个独特的权值在每一个时步被重复的利用，六个权值分别对应：输入到向前和向后隐含层（w1,w3），隐含层到隐含层自己（w2,w5），向前和向后隐含层到输
小镇大爱·2019-10-26 16:31

LSTM神经网络介绍

：http://www.atyun.com/16821.html扩展阅读：https://machinelearningmastery.com/time-series-prediction-lstm-recurrent-neural-networks-python-keras
feiquan·2019-10-16 15:00

Towards End-to-end Text Spotting with Convolutional Recurrent Neural Networks

文章目录Abstract1.Introduction2.RelatedWork2.1.TextDetection2.2.TextRecognition2.3.TextSpottingSystems3.Model3.1.OverallArchitecture3.2.TextProposalNetwork3.3.RegionFeatureEncoder3.4.TextDetectionandRecog
shelley__huang·2019-10-11 11:30

都贵玛：草原母亲，大爱无疆 | 功勋

↑点击上方蓝字「IT桔子」每天了解一点创投圈2019年9月19日，IT桔子邀请循环智能（Recurrent）联合创始人&CEO陈麒聪为人工智能社群，带来「挖掘非结构化客户交互数据，Recurrent.ai
IT桔子·2019-09-29 00:00

循环神经网络（Recurrent Neural Network，RNN）

1.为什么要用循环神经网络  如下图所示是一个填空系统，他需要做的是给定一句话，然后从这句话中选出需要的词填在对应位置的空中，具体来讲如下图所示比如说输入一句“IwouldliketoarriveTaipeionNovember2nd.”那么订票系统给就应该自动的在目的地出填入Taipei，在到达时间填入November2nd。我们可以使用一个简单的前向传播网络实现这个功能，神经网络的输入可以是单
独孤呆博·2019-09-26 18:57

Pytorch 学习（8）：Recurrent layers (循环层)实现之GRUCell

Pytorch学习（8）：Recurrentlayers(循环层)实现之GRUCellGRU是GatedRecurrentUnit，GRU是LSTM的一个变化形式。先看一个GRUCell的小例子rnn=nn.GRUCell(10,20)input=Variable(torch.randn(6,3,10))hx=Variable(torch.randn(3,20))output=[]foriinra
段智华·2019-09-26 18:16

Enriched Long-term Recurrent Convolutional Network for Facial Micro-Expression Recognition阅读笔记

文章主要的贡献：提出了一个EnrichedLong-termRecurrentConvolutionalNetwork(ELRCN)来进行表情识别。和其他大多数文章一样，作者先从数据上下功夫，从数据里提炼出相关物理量，第一个便是光流（好像也只有光流）。得到一个关于光流的3维的矩阵，关于光流这里就不介绍了，网上有好多文章，写的都挺好的。文章把对微表情的特征学习分为空间学习和时间学习。文章重点之一，就
hfutyfl802·2019-09-26 09:52

XLNet模型第一作者杨植麟：NLP落地的四个技术阶段

action=home\x26amp;__biz=MzI0ODcxODk5OA==\x26amp;scene=124#wechat_redirect作者|Recurrent.ai来源|RecurrentAI
AI科技大本营·2019-09-17 18:15

XLNet模型第一作者杨植麟：NLP落地的四个技术阶段

action=home\x26amp;__biz=MzI0ODcxODk5OA==\x26amp;scene=124#wechat_redirect作者|Recurrent.ai来源|RecurrentAI
AI科技大本营·2019-09-17 18:15

Online Detection and Classification of Dynamic Hand Gestures with Recurrent 3D Convolutional Neural

Abstract在用于人机交互的真实系统中，动态手势的自动检测和分类具有挑战性，因为（1）人们在做手势、识别和分类方面存在很大的差异；(2）系统必须在线工作，以避免在执行手势和分类之间出现明显的延迟；事实上，一个负延迟（手势完成前的分类）是可取的，因为反馈给用户可以是真正即时的。在本文中，我们使用一个递归的三维卷积神经网络来解决这些挑战，该网络可以同时从多模态数据中检测和分类动态手势。我们使用连接
铿锵的玫瑰·2019-09-17 15:06

莫烦pytorch 什么是循环神经网络（Recurrent Neural Network）

RNN的用途上图说明，对于预测，顺序排列是多么重要。我们可以预测下一个按照一定顺序排列的字，但是打乱顺序，我们就没办法分析自己到底在说什么了。序列数据我们想象现在有一组序列数据data0,1,2,3.在当预测results0的时候，我们基于的是data0，同样在预测其他数据的时候，我们也都只单单基于单个的数据。每次使用的神经网络都是同一个NN。不过这些数据是有关联顺序的，就像在厨房做菜，酱料A要比
Kstheme·2019-08-21 19:35

keras 使用RNN

nbviewer.jupyter.org/github/fchollet/deep-learning-with-python-notebooks/blob/master/6.2-understanding-recurrent-neural-networks.ipynb
3D_DLW·2019-08-18 00:27

keras 使用RNN

nbviewer.jupyter.org/github/fchollet/deep-learning-with-python-notebooks/blob/master/6.2-understanding-recurrent-neural-networks.ipynb
3D_DLW·2019-08-18 00:27

RNN详解(Recurrent Neural Network)

一.概述RNN用于处理序列数据。在传统的神经网络模型中，是从输入层到隐含层再到输出层，层与层之间是全连接的，每层之间的节点是无连接的。但是这种普通的神经网络对于很多问题却无能无力。例如，你要预测句子的下一个单词是什么，一般需要用到前面的单词，因为一个句子中前后单词并不是独立的。RNN之所以称为循环神经网路，即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对前面的信息进行记忆并应用于当
bestrivern·2019-07-21 12:19

论文解读:Crowd Counting using Deep Recurrent Spatial-Aware Network

本次夏令营实验室安排的任务是精读并理解IJCAI2018的论文CrowdCountingusingDeepRecurrentSpatial-AwareNetwork，本文记录了我对这篇论文的一些解读Highlight人群计数是实际应用中一个非常重要的任务，已有的方法不能很好地处理图片中人群的规模和旋转角度变化的问题，本文提出的DeepRecurrentSpatial-AwareNetwork通过使
chenf99·2019-07-19 08:09

Pytorch搭建循环神经网络(RNN)实现MNIST手写数字识别（2）

CreatedonSunJul712:45:392019@author:ZQQ参考：https://github.com/L1aoXingyu/pytorch-beginner/blob/master/05-Recurrent
AugustMe·2019-07-07 16:36

Recurrent Convolutional Neural Networks for Text Classification(中文版)

文章目录用于文本分类的递归卷积神经网络摘要介绍相关工作文本分类深度神经网络模型词表示学习文本表示学习训练训练网络参数预训练单词嵌入实验数据集20Newsgroups复旦数据集ACLAnthologyNetworkStanfordSentimentTreebank实验设置方法比较BagofWords/Bigrams+LR/SVM平均嵌入+LRLDA树核RecursiveNNCNN结果与讨论上下文信息
黑桃5200·2019-07-04 16:43

人群密度估计--Recurrent Attentive Zooming for Joint Crowd Counting and Precise Localization

2019CVPRAbstract提出一个新奇的框架，能够同时解决两个内在联系的问题，技术和定位。由图1说明，虽然人群总数一致，但局部人数是不一致的，是不准确的。1.Introductioncontribution：(1).模型能够判断精确的位置，因为1.1以往的MAEloss不适合判断人群位置，应该采用稀疏性鼓励的损失，此处引入二元交叉熵损失的归一化变量。1.2观察到不同人群密度的区域具有非常大的
cxm1995·2019-06-28 11:06

论文阅读笔记之——《Scale-recurrent Network for Deep Image Deblurring》

论文链接：https://arxiv.org/pdf/1802.01770.pdf代码：https://github.com/jiangsutx/SRN-Deblur在本论文中，我们探索了一种用于多尺度图像去模糊的更有效的网络结构。我们提出了一种新的尺度循环网络（SRN：scale-recurrentnetwork）（weexploreamoreeffectivenetworkstructuref
gwpscut·2019-06-21 11:19

GRU(Gated recurrent unit)

GRU(Gatedrecurrentunit)GRU是LSTM的简化版本，是LSTM的变体，它去除掉了细胞状态，使用隐藏状态来进行信息的传递。它只包含两个门：更新门和重置门结构说明GRU计算公式：结合计算公式和上图，公式（1）2）分别是更新门个重置门，更新门的作用类似于LSTM中的遗忘门和输入门，它决定了要忘记哪些信息以及哪些新信息需要被添加，体现在公式（4）中。重置门用于决定遗忘先前信息（上一时
很吵请安青争·2019-06-13 00:13

《Recurrent Attention Network on Memory for Aspect Sentiment Analysis》

Abstract1.Attention能捕捉到长期的特征，面对无关的特征，更有健壮性。2.muti-Attenion，联合RNN加强了表达能力。3.不光是帮我们避免了劳动密集型操作，还提供了量身定做的记忆针对于不同的memory（这是weighted-memory机制）4.除了Semval还在Chinesenewscommentdataset上进行了操作。作者的模型分为五部分，输入部分，记忆部分，
荒山之夜·2019-06-07 12:16

【算法类】【论文笔记】Siamese Recurrent Architectures for Learning Sentence Similarity

0、SiameseRecurrentArchitecturesforLearningSentenceSimilarity1、摘要论文主要用了一个简单的LSTM模型，通过对单词进行编码，最终计算相似性的一个方法，本篇论文的创新点是将wordnet中的同义词加入进行word2vec训练，并将预训练的结果输入到LSTM进行训练。2、方法2.1生成词向量第一步利用wordnet将单词的同义词随机替换训练集
Stephen_空空如也·2019-06-06 18:23

循环神经网络 RNN (Recurrent Neural Network)

序列数据image.png我们想象现在有一组序列数据data0,1,2,3.在当预测result0的时候,我们基于的是data0,同样在预测其他数据的时候,我们也都只单单基于单个的数据.每次使用的神经网络都是同一个NN不过这些数据是有关联顺序的,就像在厨房做菜,酱料A要比酱料B早放,不然味了.所以普通的神经网络结构并不能让NN了解这些数据之间的关联.处理序列数据的神经网络image.png如果继续
望月成三人·2019-06-01 11:33

《Recurrent Back-Projection Network for Video Super-Resolution》论文阅读之RBPN

RecurrentBack-ProjectionNetworkforVideoSuper-Resolution-CVPR2019paper：https://arxiv.org/pdf/1801.04590v4.pdfcode：https://github.com/alterzero/RBPN-PyTorchProjectpage:https://alterzero.github.io/projec
山水之间2018·2019-05-30 15:47

视频超分辨率论文笔记：Recurrent Back-Projection Network for Video Super-Resolution

RecurrentBack-ProjectionNetworkforVideoSuper-Resolution-CVPR2019paper：https://arxiv.org/pdf/1801.04590v4.pdfcode：https://github.com/alterzero/RBPN-PyTorch1.RelatedWork与DBPN论文一样，都是先总结并分类当前主流的SR做法。主流的De
Nick-Hwong·2019-05-24 16:08

VALSE学习（四）：注意力机制-Attention Network

本次报告中，介绍三种区域定位和特征学习的联合训练方法，包括基于递归注意力模型(Recurrent-Attention)、多区域注意力模型(Multiple-At
TheDayIn_csdn·2019-05-24 10:24

【阅读笔记】《ReNet: A Recurrent Neural Network Based Alternative to Convolutional Networks》

本文记录了博主阅读论文《ReNet:ARecurrentNeuralNetworkBasedAlternativetoConvolutionalNetworks》的笔记，代码，更新于2019.05.23。后续论文笔记：【阅读笔记】《ReSeg:ARecurrentNeuralNetwork-basedModelforSemanticSegmentation》文章目录AbstractIntroduc
ShuqiaoS·2019-05-23 14:37

ICLR 2019 最佳论文《Ordered Neurons: Integrating Tree Structures Into Recurrent Neural Networks》

最近ICLR2019接受论文已经公布，最佳论文也跟着亮相了，这篇是两篇最佳论文中的其中一篇，另外一篇是《TheLotteryTicketHypothesis:FindingSparse,TrainableNeuralNetworks》。本文题目是《OrderedNeurons:IntegratingTreeStructuresIntoRecurrentNeuralNetworks》，对神经元进行有
卢晨耀·2019-05-13 14:17

推荐系统遇上深度学习(四十一)-Improved Recurrent Neural Networks for Session-based Recommendations...

本文论文的题目是《ImprovedRecurrentNeuralNetworksforSession-basedRecommendations》论文下载地址为：https://arxiv.org/abs/1606.08117本文仍然使用RNN做基于会话的推荐，但在此基础上，提出了几种提升预测效果的方法，我们一起来学习一下吧。1、基础模型基本的RNN模型如下图所示：而对于其中一个序列，其过程如下：对
文文学霸·2019-05-02 19:00

推荐系统遇上深度学习(四十)-SESSION-BASED RECOMMENDATIONS WITH RECURRENT NEURAL NETWORKS

好啦，是时候继续我们推荐系统的学习了，从本篇开始，我们来一起了解一下Session-BasedRecommendation。今天，我们介绍的文章题目为《SESSION-BASEDRECOMMENDATIONSWITHRECURRENTNEURALNETWORKS》，通过循环神经网络来进行会话推荐。论文下载地址为：http://arxiv.org/abs/1511.06939。另外，本文代码的地址为
文文学霸·2019-04-29 17:00

基于非同步全循环卷积网络的视频超分辨

VideoSuper-ResolutionUsingNon-SimultaneousFullyRecurrentConvolutionalNetwork2019的VSR方向的许多文章应用了recurrent
你的思想出了问题·2019-04-29 10:09

视频超分辨论文理解：Frame-Recurrent Video Super-Resolution

该文是2019年CVPR上的视频超分辨论文。该文章主要是针对以前视频超分辨的缺点：将视频超分辨问题看作是大量的单独的多帧超分辨任务。每个多帧超分辨任务负责根据输入的多帧LR图像生成一个HR图像，这样产生的各个HR图像之间由于缺乏联系，在时间连续性上比较差，出现伪影。同时这样做的计算复杂度比较高。于是，作者提出在生成下一帧图像时，考虑之前生成的HR图像，将其也输入网络，这样不仅能产生时间连续的结果，
qq_33590958·2019-04-29 00:19

RNN的研究发展过程

86年，michaelI.Jordan定义了recurrent的概念，提出Jordannetwork。
凌烟阁主5221·2019-04-25 23:27

李宏毅机器学习——学习笔记（20） Recurrent neural network

RecurrentneuralnetworkRNN的网络结构如图所示，不仅考虑输入层的输入，还要考虑memory中的所存储的内容。RNN在训练过程中会考虑input中的sequence，RNN分为两种形式：Elmannetwork（将hiddenlayer中的输出值输入到下一次的训练中）和JordanNetwork（将整个网络的输出值输入到下一次的训练中）BidirectionalRNN：将输入序
青芒·1·2019-04-13 00:22

Siamese Recurrent Architectures 阅读笔记及复现

文章目录1.SiameseRecurrentArchitecturesforLearningSentenceSimilarity模型结构ManhattanLSTMModel实验参数设置实验结果2.LearningTextSimilaritywithSiameseRecurrentNetworks模型结构Contrastivelossfunction复现1.SiameseRecurrentArchi
Leokb24·2019-04-08 17:16

LSTM函数详解

LSTM层keras.layers.recurrent.LSTM(units,activation='tanh',recurrent_activation='hard_sigmoid',use_bias
hellocsz·2019-03-25 18:03

Keras层的实现

keras中文文档https://keras.io/zh/layers/recurrent/keras源码分析https://www.jianshu.com/p/8dcddbc1c6d4实现自己的Keras
eat_the_frog·2019-03-06 19:10

PredRNN: Recurrent Neural Networks for Predictive Learning using Spatiotemporal LSTMs

这是一篇2017年发表在顶级期刊NIPS上的文章，作者通过发现传统RNN/LSTM网络的不足，提出了一种新的网络结构PredRNN，并且为这一网络结构设计了一种新的RNN单元（ST-LSTM)。由于博主能力有限，通过阅读原文短时间能只是领悟到PredRNN这一网络结构的思想，而并未对ST-LSTM的设计灵感有更深的体会。下面这篇博文主要是来介绍一下什么是PredRNN，以及通过作者的设计思路能带给
空字符·2019-03-06 13:36

Professor Forcing: A New Algorithm for Training Recurrent Networks翻译

摘要TeacherForcing算法通过在训练的时候，将目标输出作为输入并使用网络自己的一次性预测来进行多步采样，从而对循环神经网络进行训练。我们引入ProfessorForcing算法，在训练网络以及在多个时刻从网络采样时，使用对抗域自适应（adversarialdomainadaptation）来鼓励循环网络的动态变化相同。我们将ProfessorForcing应用到语言模型，原始波形的声音合
nopSled·2019-02-22 15:02

WMT的英德翻译

TheUniversityofCambridge’sMachineTranslationSystemsforWMT181.basicArchitectureCombinethethreemostcommonlyusedarchitectures:recurrent
FK103·2019-02-12 11:48

1-CCNet 论文解读

进一步重复操作，recurrent=2，捕获到相对精准分割信息。1、介绍图（a）是当前的，也就是原先的方法，参数有HxW个。图（b）是本文的方法，采用像素纵横交叉的区域，聚合出更加有效的信息。
处女座的柚子·2019-02-02 21:21

Recurrent Neural Networks Tutorial, Part 2 – Implementing a RNN with Python, Numpy and Theano

CodetofollowalongisonGithub.InthispartwewillimplementafullRecurrentNeuralNetworkfromscratchusingPythonandoptimizeourimplementationusingTheano,alibrarytoperformoperationsonaGPU.Thefullcodeisavailableon
Wei-L·2019-01-24 17:01

Crowd Counting using Deep Recurrent Spatial-Aware Network

摘要：提出了一种DeepRecurrentSpatial-AwareNetwork的网络架构，能够采用一种可学习的空间变化模块。本文提出的方法:DeepRecurrentSpatial-AwareNetwork,包括两个部分：全局特征提取部分（GFE）和RecurrentSpatial-AwareRefinement(RSAR).其中GFE模块将整个图像作为输入，进行特征提取。RSAR模块通过一个
快乐的小画家·2019-01-22 10:55

Teacher Forcing for Recurrent Neural Networks

TeacherForcing是一种用来快速而有效地训练循环神经网络模型的方法，这种方法以上一时刻的输出作为下一时刻的输入。它是一种网络训练方法，对于开发用于机器翻译，文本摘要和图像字幕的深度学习语言模型以及许多其他应用程序至关重要。阅读这篇文章后，你会知道：训练循环神经网络的问题是使用上一时刻的输出作为下一时刻的输入。在训练这些类型的循环网络时，TeacherForcing是一种能够解决缓慢收敛和
nopSled·2019-01-21 11:12
上一页 7 8 9 10 11 12 13 14 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他