Recurrent 第8页

循环神经网络RNN：Recurrent Neural Network

文章目录给网络增加记忆能力应用到机器学习序列到类别模式同步的序列到序列模式异步的序列到序列模式参数学习时间反向传播算法实时循环学习算法算法比较Bi-RNNLSTMLong-termdependenciesThreegateLSTMforRNNProblemofTrainingLSTMforhandlegradientvanishingGRU参考在前馈神经网络(CNN也属于前馈神经网络)中，信息的传

我是大黄同学呀·2020-08-03 22:46

Transformer：NLP中RNN的替代方案

该神经网络的优势是，采用了非Recurrent的Encoder-de

earofreceiver·2020-08-03 16:16

Recurrent Neural Network[CTC]

0.背景1.CTC原理图CTC结构图CTC是看似和HMM有些联系，然后也采用DP来进行求解，将CTC结构图中单独拿出来，得到如下形式：图用前向-后向算法计算CTC上图如CTC结构图，最开始只能以(-)或者标签序列中第一个字符开始，即这里的t=1时，是{(-)，(C)}；在结尾也只能以(-)或标签序列中最后一个字符结束，即这里的t=T时，是{(-)，(T)}；所以，在所有的路径中，只有开始和结束的点

weixin_33873846·2020-08-03 11:53

自然语言处理之----RNN(Recurrent Neural Network)

循环神经网络3-1.TextRNN-PredictNextStepPaperFindingStructureInTimeTextRNN-Tensor.py'''codebyTaeHwanJung(JeffJung)@graykode'''importtensorflowastfimportnumpyasnptf.reset_default_graph()sentences=["ilikedog",

Adam坤·2020-08-03 07:01

Detecting Urban Changes With Recurrent Neural Network From Multitemporal Sentinel SENTINEL-2 Data

论文地址：https://arxiv.org/abs/1910.07778v1IGARSS2019-2019IEEEInternationalGeoscienceandRemoteSensingSymposiumIEEE,2019.ABSTRACT本文结合了fullyconvolutionalnetworks(similartoU-Net)forfeaturerepresentation和recu

_likyoo·2020-08-03 01:33

对《Detecting Rumors from Microblogs with Recurrent Neural Networks》解读

对《DetectingRumorsfromMicroblogswithRecurrentNeuralNetworks》解读Abstract微博社交平台是谣言传播的理想场所，因此自动进行谣言检测成为了目前的关键问题。在以往的方法中，主要通过自己设置特征向量并利用机器学习方法进行检测。本文所利用的方法是通过RNN来进行谣言检测，因为循环神经网络在时序问题解决较好，能够捕捉上下文信息。此模型在两个社交平

谣言收割机·2020-08-02 20:01

论文阅读笔记-Progressive Attention Guided Recurrent Network for Salient Object Detection

论文名翻译：渐进注意引导循环网络用于显著性目标检测。发表情况：该论文于2018年发表在CVPR。论文核心思想：引入空间注意力(SA)和通道注意力(CA)，提出了一种新型注意力驱动框架。其目的是想以一种渐进的方式选择性的融合多层特征。在骨干网络VGG19上加入了多路循环连接。其目的是把顶层的全局语义信息反馈给浅层，从而提高网络的特征学习能力。一.提出问题目前的深度学习的方法仅是把多层特征机械地整合在

青苹果~·2020-08-02 15:44

【李宏毅机器学习笔记】 23、循环神经网络（Recurrent Neural Network，RNN）

【李宏毅机器学习笔记】1、回归问题（Regression）【李宏毅机器学习笔记】2、error产生自哪里？【李宏毅机器学习笔记】3、gradientdescent【李宏毅机器学习笔记】4、Classification【李宏毅机器学习笔记】5、LogisticRegression【李宏毅机器学习笔记】6、简短介绍DeepLearning【李宏毅机器学习笔记】7、反向传播（Backpropagatio

qqqeeevvv·2020-08-02 15:59

[神经网络学习笔记]递归神经网络，即循环神经网络(Recurrent Neural Network，RNN)综述

本人刚入门神经网络，学习了各个大佬们的博客，按照自己的学习思路整理出来的笔记，边学习边完善，供入门的同学学习，其中可能有错误的地方，望指出学习其他模型链接[神经网络学习笔记]卷积神经网络CNN（ConvolutionalNeuralNetworks,CNN）综述[神经网络学习笔记]长短期记忆模型（Long-ShortTermMemory，LSTM）综述一、引言现实问题中存在着很多序列型的数据，例如

Better Bench·2020-08-02 14:47

【Paper】CNN-LSTM：Long-term Recurrent Convolutional Networks for Visual Recognition and Description

论文期刊：CVPR2015(oral)论文被引：3673(04/24/20)论文原文：点击此处该论文是CNN-LSTM的开山鼻祖，主要用于生成图像描述。初稿发布于2014年，拿到了CVPR的oral，第四个版本（本文）发布于2016年。文章目录Long-termRecurrentConvolutionalNetworksforVisualRecognitionandDescriptionAbstr

datamonday·2020-08-02 14:00

【显著性物体检测】【CVPR2018】Progressive Attention Guided Recurrent Network for Salient Object Detection【论文笔记】

论文连接这篇cvpr感觉比起同年的其他几篇显著性物体检测的，各有各的不同，使用的方法，看问题的角度也不一样，但都实现了比较不错的检测效果。给我的启示就是：目前的方法虽然效果很强，但一定有很多更强的方法等待去发现，希望自己不断积累，早点做出点东西。虽然也有人做了这篇文章的论文笔记，但是还是自己做一份，说说我的看法与感受。摘要显著性物体检测现在主流都是在backbone的基础上，充分利用提取的特征进行

千草幽幽·2020-08-02 14:57

显著性检测之Saliency Detection with Recurrent Fully Convolutional Networks

SaliencyDetectionwithRecurrentFullyConvolutionalNetworkshttps://www.yuque.com/lart/papers现存的深度方法主要有以下一些问题.过去证明很有效的显著性先验被完全抛弃CNN的预测只考虑有限的局部图像区域.不能加强空间一致性.使用前向传播架构,CNN很难细化输出的预测.显著性检测多被认为是一个二分类问题,相较于数以千计

有为少年·2020-08-02 12:43

论文学习15-Table Filling Multi-Task Recurrent Neural Network(联合实体关系抽取模型）

文章目录abstract1introduction2.方法2.1实体关系表(Figure-2)2.2TheTableFillingMulti-TaskRNNModel2.3Context-awareTF-MTRNNmodel2.4PiggybackingforEntity-RelationLabelDependencies2.5RankingBi-directionalRecurrentNeura

叶落叶子·2020-07-30 17:52

RNN学习第二讲-通过Python，numpy 和 theano实现一个RNN网络

仓库我的GitHub有关RNN的一般概述请参考第一部分中文版：http://www.jianshu.com/p/54364d395186英文原版：http://www.wildml.com/2015/09/recurrent-neural-networks-tutorial-part

郭大圣兮·2020-07-30 12:02

【论文笔记】Recurrent Slice Networks for 3D Segmentation of Point Clouds

RecurrentSliceNetworksfor3DSegmentationofPointClouds（CVPR2018,Spotlight）QianguiHuang，WeiyueWang，UlrichNeumannUniversityofSouthernCalifornia一、背景由于点云数据是无序的和非结构化的，传统的CNN、RNN方法难以被拓展使用；在经典的PointNet（2016）中，

oohlala2018·2020-07-30 01:20

Independently Recurrent Neural Network (IndRNN): Building A Longer and Deeper RNN

IndRNN作者电子科大学生，2018-3-13挂于arxivMotivationplain的RNN存在梯度消失与爆炸问题，而LSTM/GRU虽然一定程度解决了问题，但是由于采用tanh或者sigmoid作为这些饱和的激活函数，堆叠多层时层间梯度衰减验严重。考虑新的RNN结构，能使用Relu这类不饱和激活函数，可堆叠多层使用等。传统RNN或LSTM中各个神经元之间不独立，作者提出神经元之间独立的R

longturn·2020-07-29 17:08

论文学习17“Look Closer to See Better: Recurrent Attention Convolutional Neural Network for Fine-grained Image

本文是CVPR17年的文章，微软和中科大合作的作品，事实上本文与低剂量CT重建并不是同样的任务，但是文中的APN和检测网络接连作用的模式值得学习。文章是针对细粒度特征学习所做，文章提出一种RA-CNN（recurrentattentionconvolutionalneuralnetwork），在每个规模的图像下都有两个网络分类网和APN（attentionproposalsub-network），

侯冠群·2020-07-28 18:37

Recurrent Spatial Transformer Networks

RecurrentSpatialTransformerNetworksSørenKaaeSønderby,CasperKaaeSønderby,LarsMaaløe,OleWinther(Submittedon17Sep2015)Weintegratetherecentlyproposedspatialtransformernetwork(SPN)[Jaderberget.al2015]intoa

hzyido·2020-07-27 23:20

Re3 : Real-Time Recurrent Regression Networks for Visual Tracking of Generic Objects

Re3:Real-TimeRecurrentRegressionNetworksforVisualTrackingofGenericObjects2019-10-0414:42:54Paper：https://arxiv.org/pdf/1705.06368.pdfCode（TensorFlow）：https://gitlab.com/danielgordon10/re3-tensorflowRe

a1424262219·2020-07-27 18:19

【论文阅读】Frame-Recurrent Video Super-Resolution (FRVSR2018超分)

【论文阅读】Frame-RecurrentVideoSuper-Resolution(FRVSR)今天要整理一篇最近阅读的文章，这篇文章是2018年MehdiS.M.Sajjadi发表在CVPR的一篇有关视频超分辨率的文章。目前作者并没有公开源码，但是我在GitHub上看到有其他大牛复现了论文源码，我暂时还没跑这篇文章的代码，不过后面会整理我所跑过的论文代码。Abstract摘要中，作者首先说明了

florrie Z·2020-07-27 17:40

Recurrent Neural Networks Tutorial, Part 1 – Introduction to RNNs

RNN中的R代表Recurrent，意味着它对每一

frankzd·2020-07-15 23:10

Viana2013 Reciprocal recurrent selection (RRS)

Viana,J.M.S.,DeLima,R.O.,Mundim,G.B.,Condé,A.B.T.,andVilarinho,A.A.2013.Relativeefficiencyofthegenotypicvalueandcombiningabilityeffectsonreciprocalrecurrentselection.Theor.Appl.Genet.126(4):889–899.do

董八七·2020-07-15 09:03

[论文笔记](CVPR2019) RVOS: End-to-End Recurrent Network for Video Object Segmentation

阳阳籽籽·2020-07-13 19:36

[第6章翻译开篇]Tensroflow For Machine Inteligence-Recurrent Neural Networks and Natural Language Processing

RecurrentNeuralNetworksandNaturalLanguageProcessing先道个歉：拖着这么久才更新。第五章的后续几章已经翻译出来了，占时没有时间调试程序。所以也没有更新。等调试完程序以后，我会放到这里来。书籍封面此处给出本节的代码：https://github.com/Leechen2014/TensorFlow-for-Machine-Intelligence相关的

斐波那契的数字·2020-07-13 16:08

【全文翻译】PointRNN: Point Recurrent Neural Network for Moving Point Cloud Processing

在这里我给出我在pytorch框架下实现的计算CD和EMD的cuda加速代码，本人正在求学，需要在github页面刷刷经验，觉得代码有用的同学麻烦再github给个星星吧！https://blog.csdn.net/taifengzikai/article/details/106994972https://github.com/FengZicai/shape-measure后续我会把我实现的pyt

冯子材·2020-07-13 14:00

READING NOTE: Inside-Outside Net: Detecting Objects in Context with Skip Pooling and Recurrent Neura

TITLE:Inside-OutsideNet:DetectingObjectsinContextwithSkipPoolingandRecurrentNeuralNetworksAUTHER:SeanBell,C.LawrenceZitnick,KavitaBala,RossGirshickYanASSOCIATION:CornellUniversity,MicrosoftResearchFRO

Joshua_Li_·2020-07-13 06:41

循环神经网络(RNN, Recurrent Neural Networks)介绍

article/details/48636251循环神经网络(RNN,RecurrentNeuralNetworks)介绍这篇文章很多内容是参考：http://www.wildml.com/2015/09/recurrent-neural-networks-tutorial-part

AlfredBC·2020-07-13 03:01

论文《Inside-Outside Net: Detecting Objects in Context with skip pooling and Recurrent Neural Networks》

收录于CVPR20161.Contribution本文主要关注目标检测过程中的上下文信息以及多尺度信息两个方面，提出了Inside-OutsideNet:InsideNet:采用skipingpooling的方式连接不同卷积层输出的featuremap，实现多尺度特征的融合OutsideNet:采用IRNN的结构，整合contextualinfomationPerformance:80.1%onV

yj_isee·2020-07-12 23:33

多尺度R-CNN(2): Inside-Outside Net: Detecting Objects in Context with Skip Pooling and Recurrent Neural

CNN高层特征具有丰富的语义信息，低层特征具有较高空间分辨率，研究如何融合不同层之间的特征，是物体检测领域热门的方向。近期很多工作通过融合多层来提升检测和分割的性能，按照融合与预测的先后顺序，分类为早融合(Earlyfusion)和晚融合(Latefusion)。早融合:先融合多层的特征，然后在融合后的特征上训练预测器。这类方法也被称为skipconnection。这里面的代表是ION和Hyper

Solomon1588·2020-07-12 21:36

CS231n笔记 Lecture 10, Recurrent Neural Networks

RecaptiononCNNArchitectureAlthoughSerenaisverybeautiful,Justinisabetterlecturer.Lovehim.RecurrentNeuralNetworkMeanttoprocesssequencialdata,reusehiddenstatetoretaintheknowledgeofpreviousfedinputs.Canbe

weixin_30888027·2020-07-12 07:14

【paper reading】Recurrent Models of Visual Attention

原文地址https://arxiv.org/abs/1406.62471backgroundandmotivation神经网络在CV任务上逐年取得突破性成就，但是如今的硬件设备限制了输入图像的尺寸。这是14年的文章，即使在今天，仍然会面临着图像过大而带来巨大的训练及推理代价。本文的出发点就是要解决这些computationalcost.从人类的认知领域出发，人类观察一张图片往往是按照某个顺序依次查

请痛捶我·2020-07-12 05:58

Session-based recommendations with recurrent neural networks（阅读理解）

本文是最大贡献在于第一次将RNN使用到Session-basedRecommendation中作者将用户的行为作为看做是序列问题，有效的将时间信息添加到网络中，在传统的两类推荐方法中——基于内容的推荐算法和协同过滤推荐算法（model-based、memory-based）在刻画序列数据中存在缺陷：每个item相互独立，不能建模item的连续偏好信息，缺失了整个序列的休息。而本文的方法恰好运用到真

发发fjfj·2020-07-12 04:21

循环神经网络(Recurrent Neural Network, RNN)和递归神经网络(Recursive Neural Network, RNN)，你搞清楚了吗？

一，循环神经网络：原文：https://zybuluo.com/hanbingtao/note/541458语言模型RNN是在自然语言处理领域中最先被用起来的，比如，RNN可以为语言模型来建模。那么，什么是语言模型呢？我们可以和电脑玩一个游戏，我们写出一个句子前面的一些词，然后，让电脑帮我们写下接下来的一个词。比如下面这句：我昨天上学迟到了，老师批评了____。我们给电脑展示了这句话前面这些词，然

业余狙击手19·2020-07-12 00:32

《Improved Recurrent Neural Networks for Session-based Recommendations》 DLRS 2016 阅读笔记

简介：和上一篇介绍的ICLR2016文章所要解决的问题一致，即利用session内用户的点击序列去预测用户下一次点击的item。方法也运用的RNN，但是更多在于引入了一些优化方法，如dataaugmentation,modelpretrain,generalizeddistillation(useofprivilegedinformation)等。直接先上文中使用的模型图。相比上一篇文章，整个模型

StudyLess·2020-07-12 00:19

[机器学习入门] 李宏毅机器学习笔记-32 (Recurrent Neural Network part 1;循环神经网络 part 1)

[机器学习入门]李宏毅机器学习笔记-32(RecurrentNeuralNetworkpart1;循环神经网络part1)PDFVIDEORecurrentNeuralNetworkExampleApplicationslot安装、放入、沟槽、插入……哇好多意思啊。SlotFilling就相当把关键字提溜出来放到相应的凹槽内，强迫症患者真舒服。那么怎样将一个词表示成一个向量呢？方法有很多：但是上述

holeung·2020-07-11 23:46

【深度学习】聚焦机制DRAM(Deep Recurrent Attention Model)算法详解

Ba,Jimmy,VolodymyrMnih,andKorayKavukcuoglu.“Multipleobjectrecognitionwithvisualattention.”arXivpreprintarXiv:1412.7755(2014).思想三位作者均来自于风头正劲的GoogleDeepMind，三作KorayKavukcuoglu在AlphaGo的Nature论文中榜上有名。本文执行

shenxiaolu1984·2020-07-11 22:27

3-D Quasi-Recurrent Neural Network for Hyperspectral Image Denoising

1.摘要作者设计了一个QRU3D块来对高光谱图像进行去噪，其中的3D卷积负责提取空间和光谱的结构相关性，而近似循环池化函数则用来捕获光谱方向的全局相关性。此外，作者还引入了交替方向结构，以消除单向的因果关系，并且无需额外的计算成本。2.方法介绍2.1.QRU3DQRU3D块的结构如上图所示，包含两个主要步骤：3D卷积和近似循环池化。其中输入III的大小1∗H∗W∗B1*H*W*B1∗H∗W∗B，H

seniusen·2020-07-11 22:04

2014-nips-Recurrent Models of Visual Attention论文笔记

1.任务进行图像识别2.网络图A3.网络中的细节3.1名词解释为location。gt为glimpsevector。ht-1是internalstate。at是action，有两个作用：通过感知控制下一时刻lt来决定如何布置感知器；一个可能会影响环境状态的环境的作at。3.2glimpsevector图一图二3.2.1图一：glimpsesensor是从image的location周围提取出了.在

fe_ng_ji·2020-07-11 19:21

论文阅读——R2U-Net:Recurrent Residual Convolutional Neural Network based on U-Net for Medical Image

论文阅读之R2U-Net:RecurrentResidualConvolutionalNeuralNetworkbasedonU-Net(R2U-Net)forMedicalImageSegmentationR2U-NetAbstract深度学习近年来在图像识别、分割及物体检测等领域取得了优异的成果。UNet就是其中一种广受好评的框架。本文则提出了基于UNet架构的循环卷积神经网络-RU-Net和

黄小米吖·2020-07-11 18:21

[深度学习从入门到女装]Recurrent Residual Convolutional Neural Network based on U-Net (R2U-Net)

论文地址：RecurrentResidualConvolutionalNeuralNetworkbasedonU-Net(R2U-Net)forMedicalImageSegmentat这篇文章使用RecurrentResidualconv来对U-Net进行改进（a）为普通的两个conv模块，（b）为使用了recurrentconv的模块，（c）为使用了residualconv的模块，（d）是同时

炼丹师·2020-07-11 14:21

《Recurrent Attention Models for Depth-Based Person Identification》中文翻译

RecurrentAttentionModelsforDepth-BasedPersonIdentification中文翻译PS:大多来自于谷歌，部分自己修改。1.介绍快速，局部地观察人通常足以使人识别个体。但事实证明，这种卓越的能力对于现代计算机视觉系统来说是一项难以捉摸的任务。然而，它有着类似于安全认证，人工跟踪，公共安全和基于角色的活动理解的宝贵任务[34,30,2]。给定一张输入图像，行人

jky95624·2020-07-11 09:10

cs224n lecture8 Recurrent Neural Networks and Language Models

TraditionallanguagemodelsRNNsRNNlanguagemodelstrainingproblemsandtricksRNNforothersequencetasksBianddeeprnnsLanguageModelscomputesaprobabilityforasequenceofwordsP(w1,...,wT)P(w1,...,wT)MLwordordering(

feitianlzk·2020-07-11 05:08

Recurrent Convolutional Neural Networks for Text Classification阅读笔记

下面是我对这篇文章内容的整理，因为刚刚接触这一方向，读的这方面的文章还比较少，知识的了解也不够，如果有不对的地方还请大家批评指正，谢谢！RecurrentConvolutionalNeuralNetworksforTextClassification主要工作：1.提出一种新的RecurrentConvolutionalNeuralNetworks文本分类方法，不需要人为设定特征。2.设计三个实验分

cat12385·2020-07-11 03:04

论文笔记：Recurrent Models of Visual Attention

RecurrentModelsofVisualAttention戳这里下载训练代码，戳这里下载测试代码【基于torch】摘要由于卷积核的计算量跟图片像素个数大小呈线性关系，卷积神经网络对大型的图片的处理计算量巨大。我们提出一个RNN模型，能够从一张图片或者一段视频中提取信息，通过主观选择一系列区域或者位置，只对选中的区域在高分辨率情况下进行处理。本文提出的方法，据有内部平移不变性，但是计算量能够根

Emma-SJ·2020-07-11 02:42

论文阅读笔记 Transfer learning for sequence tagging with hierarchical recurrent networks

论文地址https://arxiv.org/abs/1703.06345论文中的项目代码地址https://github.com/kimiyoung/transfer本文探讨了神经序列标记器的转移学习问题，其中使用具有丰富注释的源任务（例如，PennTreebank上的POS标记）来改善具有较少可用注释的目标任务的性能（例如，POS标记为微博）。1、介绍有没有办法通过共享模型参数和特征表示与另一个

Rachel_Q·2020-07-10 23:54

Lecture 6 Language Models and Recurrent Neural Networks

这一讲的主要内容包括如何从前面所讲的经典语言模型过渡到现在的神经网络语言模型，而神经语言模型主要介绍循环神经网络（RecurrentNeuralNetworks,RNNs）。如何理解语言模型（LanguageModel）呢？这里可以简单的将其看作是根据前面已有的句子部分来预测下一个词是什么。例如当前已有“thestudentsopenedtheir”，那么根据训练语料库，模型给出的预测可能是boo

Forlogen·2020-07-10 21:53

【增强学习】Recurrent Visual Attention源码解读

Mnih,Volodymyr,NicolasHeess,andAlexGraves.“Recurrentmodelsofvisualattention.”AdvancesinNeuralInformationProcessingSystems.2014.戳这里下载训练代码，戳这里下载测试代码。这篇文章处理的任务非常简单：MNIST手写数字分类。但使用了聚焦机制(VisualAttention)，不

shenxiaolu1984·2020-07-10 18:29

【行为检测】ICCV 2019：Temporal Recurrent Networks for Online Action Detection

这是一篇OnlineActionDetection的文章，整体框架是lstm的，因为online之前的做法都是只利用历史信息，这篇主要新意在于通过预测未来的信息来帮助分类。TemporalRecurrentNetwork(TRN)。由于我刚接触actiondetection，对于怎么确定事件开头和结束位置最好奇，这篇中这里的思路非常简单，就是做一个多分类，以THUMOS数据集为例，帧率26fps，

废柴Panda_M·2020-07-09 23:52

[行为识别] ICCV 2017 RPAN：An end-to-end recurrent pose-attention network for action recognition

一、实验一篇引入关节点信息的论文，要点（abstrat中作者提到）：端到端的模型，lstm，没有经过先提取关节特征这种步骤；不同于独立的学习关节点特征(human-jointfeatures)，这篇文章引入的pose-attention机制通过不同语义相关的关节点(semantically-relatedhumanjoints)分享attention参数，然后将这些通过human-partpool

废柴Panda_M·2020-07-09 23:51

Recurrent neural network (RNN) - Pytorch版

importtorchimporttorch.nnasnnimporttorchvisionimporttorchvision.transformsastransforms#配置GPU或CPU设置device=torch.device('cuda'iftorch.cuda.is_available()else'cpu')#超参数设置sequence_length=28input_size=28hi

weixin_30446613·2020-07-08 13:26

推荐频道

Recurrent