E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
nmt
从头实现一个深度学习对话系统--Seq-to-Seq模型详解
这里我们主要从下面几个层次来进行介绍:Seq-to-Seq框架1Seq-to-Seq框架2Seq-to-SeqwithAttention(
NMT
)Seq-to-SeqwithAttention各种变形Seq-to-SeqwithBea
liuchongee
·
2023-03-14 07:47
深度学习
QA
QA_对话机器人_机器阅读专题
深度学习
对话系统
NLP
Seq-to-Seq
C/C++ Linux 程序员必须了解的 10 个工具
computing/basic-unix.htmlhttp://pangea.stanford.edu/computing/unix/shell/commands.phphttp://infohost.
nmt
.edu
工程师WWW
·
2023-02-22 05:02
linux编程
第二次打卡
增加模型复杂度即可,过拟合需要考虑引入正则惩罚项、丢弃层、进行数据增强、模型集成等,这些可能在后续课程会提及,另外,梯度爆炸可以通过梯度裁剪来控制,梯度消失可以采取残差网络、跨层联接等方法来弥补,SENet值得一看;
NMT
sinat_26358547
·
2023-02-03 08:06
ACL2020论文:使用强化学习为机器翻译生成对抗样本
当前神经机器翻译(neuralmachinetranslation,
NMT
)系统在实用场合常常会出现用户难以预计的错误,这些错误甚至存在消极的社会影响。而基于用户反馈进行的维护通常也
zenRRan
·
2023-02-01 09:27
游戏
机器学习
人工智能
深度学习
强化学习
机器翻译相关技术note
机器翻译和数据集机器翻译(MT):将一段文本从一种语言自动翻译为另一种语言,用神经网络解决这个问题通常称为神经机器翻译(
NMT
)。主要特征:输出是单词序列而不是单个单词。
AI_er
·
2023-01-31 19:05
动画图解Attention机制,让你一看就明白
几十年来,统计机器翻译一直是占主导地位的翻译模型,直到神经机器翻译(
NMT
)的诞生。
NMT
是一种新兴的机
ronghuaiyang
·
2023-01-30 16:56
Sampled Softmax
由于基于神经网络的生成式文本摘要的原始模型就是从
NMT
迁移过来的,所以研究文本
清川先生
·
2023-01-30 12:01
神经网络搞得人神经
softmax
神经网络
自然语言处理
Attention Mechanism
从机器翻译开始机器翻译,准确点说应该是神经机器翻译(
NMT
),从2014年出现,到目前(2019年),已经成为NLP领域里面最成功的一个应用。
Ritchie_Leung
·
2023-01-22 23:06
深度学习
NLP
Attention
Mechanism
CS224N
注意力机制
机器翻译
NMT
TASK05-机器翻译
@[TOC](机器相关及相关技术)机器翻译(MT):将一段文本从一种语言自动翻译为另一种语言,用神经网络解决这个问题通常称为神经机器翻译(
NMT
)。主要特征为:输出是单词序列而不是单个单词。
中古传奇
·
2023-01-21 21:53
人工智能AI
神经网络
深度学习
Transformer解析-易理解
在之前的文章中,Attention成了深度学习模型中无处不在的方法,它是种帮助提升
NMT
(NeuralMachineTranslation)的翻译效果的思想。在本篇博客中,我们解析下
SeaSky_Steven
·
2023-01-17 15:47
algorithm
深度学习
transformer
易理解
从零开始手写一个Transformer
本文将带你从零开始实现一个Transformer,并将其应用在
NMT
任务上。
Iareges
·
2023-01-14 21:28
#
PyTorch
#
自然语言处理
transformer
深度学习
pytorch
【阅读笔记】《Uncertainty-Aware Curriculum Learning for Neural Machine Translation》(ACL2020)
《Uncertainty-AwareCurriculumLearningforNeuralMachineTranslation》学习目标:初步了解
NMT
领域知识,理解常用方法和术语建议:新手可以先看整理的
唐唐无糖
·
2023-01-12 07:45
NMT
机器学习
机器学习
nmt
encoder decoder模型_Pytorch学习记录-Transformer(数据预处理和模型结构)
这个项目主要包括了6个子项目~~使用神经网络训练Seq2Seq~~~~使用RNNencoder-decoder训练短语表示用于统计机器翻译~~~~使用共同学习完成
NMT
weixin_39815310
·
2023-01-11 14:33
encoder
decoder模型
论文浅尝 - ICLR2020 | 具有通用视觉表示的神经机器翻译
id=Byl8hhNYPS代码链接:https://github.com/cooelf/UVR-
NMT
简介和动机近年来,不少工作已经证明了视觉信息在机器翻译(
NMT
)这个任务上面是帮助的,但是这种模型存在着不少的限制
开放知识图谱
·
2023-01-11 02:58
机器学习
人工智能
计算机视觉
深度学习
算法
深度学习attention原理_关于深度学习:Attention 及 self-attention
1Attention的提出在机器翻译(
NMT
)的任务中,为解决RNN中的Encoder-Decoder的基础上target端输入固定长度的问题,提出了Align方式,这也是Attention的开始。
weixin_39773158
·
2022-12-30 10:15
深度学习attention原理
[文献阅读]—Improving the Lexical Ability of Pretrained Language Models for Unsupervised
NMT
前言论文地址:https://aclanthology.org/2021.naacl-main.16.pdf代码地址:https://github.com/alexandra-chron/lexical_xlm_relm前人工作&存在问题在双语翻译情境中,前人工作发现BLI指标(bilinguallexiconinduction)和翻译结果关系很强,而《ProbingPretrainedLangu
Muasci
·
2022-12-27 23:54
文献阅读之家
机器翻译
NLP-
NMT
-Transformer图解及论文笔记:Attention Is All You Need
前言机器翻译技术的发展一直与计算机技术、信息论、语言学等学科的发展紧密相随。从早期的词典匹配,到词典结合语言学专家知识的规则翻译,再到基于语料库的统计机器翻译,随着计算机运算能力的提升和多语言信息资源的爆发式增长,机器翻译技术逐渐走出象牙塔,开始为普通用户提供实时便捷的翻译服务。Attention机制最早在视觉领域提出,2014年GoogleMind发表了《RecurrentModelsofVis
饮冰l
·
2022-12-25 08:59
自然语言处理
算法
神经网络
自然语言处理
机器学习
【研究生】图解神经机器翻译中的注意力机制
转载于机器之心选自TowardsDataScience作者:RaimiKarim参与:高璇、路本文用几张动图形象地解释了注意力机制,还分享了过去5年中出现的4个
NMT
架构,对文中出现的一些概念也进行了直观解释
计算机与软件考研
·
2022-12-19 03:16
机器翻译及相关技术 & 注意力机制与Seq2seq模型 & Transformer
要求能够处理变长输入序列)三Transformer3.1动手实践3.2小测验一机器翻译及相关技术机器翻译(MT):将一段文本从一种语言自动翻译为另一种语言,用神经网络解决这个问题通常称为神经机器翻译(
NMT
gbl5555
·
2022-12-19 03:45
动手学深度学习
Web3中文|NFT如何促进教育的发展?
区块链实现不同生态系统之间资产的转移,同时让
NMT
(
NMT
是NativeMemoryTracking的缩写,是Java7U40引入的HotSpot新特性,用于跟踪Ho
iNFTnews
·
2022-12-17 19:30
区块链
web3
区块链
各类注意力机制的介绍 (Intra & Inter & Soft & Hard & Global & Local Attention)
传统神经机器翻译(NeuralMachineTranslation,
NMT
)模型普遍采用encoder-decoder结构,且encoder和decoder一般为RNN网络(如LSTM、GRU等)。
夏树让
·
2022-12-11 03:43
神经网络
人工智能
nlp
机器学习
deep
learning
NLP-2015:Subword
NMT
模型【使用子词来解决OOV问题】
《原始论文:NeuralMachineTranslationofRareWordswithSubwordUnits》一、概述1、摘要神经机器翻译(
NMT
)模型通常以固定的词汇量运行,但是翻译是一个开放词汇的问题
u013250861
·
2022-11-28 08:09
#
NLP应用/机器翻译
从技术到体验:机器翻译产品落地实践
目录:做算法前先了解你的业务算法不仅是
NMT
模型数据决定了翻译效果的上限科学评测指引优化方向工程工作同样很重要做算法前先了解你的业务核心人群:高频场景分析:需要的翻译技术类型:算法不仅是
NMT
模型
Necther
·
2022-11-28 08:08
自然语言处理
机器翻译
自然语言处理
人工智能
fairseq学习博客总结
使用fairseq从头开始训练一个中英神经机器翻译模型#强烈安利手把手教你用fairseq训练一个
NMT
机器翻译系统实习日记(二):序列建模工具包——FairseqFaceBook-NLP工具Fairseq
废柴小七
·
2022-11-27 20:06
学习记录
学习
Transformer之机器翻译
话不多说,上图那么如何用pytorch搭建一个自己的Transformer并且用到
NMT
上呢实现思路:首先是Encoder层,这个层由多个EncoderBLock组成,每个block为:Attention
通宵睡一宿
·
2022-11-25 16:14
transformer
机器翻译
深度学习
NMT
——mRASP实现机器翻译
官方地址:mRASP一、配置环境作者使用的基于pytorch的fairseq,所以需要安装pytorch#1、下载源码wgethttps://github.com/linzehui/mRASP/archive/refs/heads/master.zip#2、解压unzipmaster.zip#3、进入目录,安装所需环境cdmRASP&&pipinstall-rrequirements.txt二、数
HiJack¹
·
2022-11-25 05:21
学习笔记
机器翻译
深度学习
人工智能
mRASP
Sequence Models Week 3 Neural Machine Translation
YouwillbuildaNeuralMachineTranslation(
NMT
)modeltotranslatehumanreadabledates("25thofJune,2009")intomachinereadabledates
weixin_30780221
·
2022-11-24 22:08
人工智能
python
图解注意力机制
数十年以来,统计机器翻译(StatisticalMachineTranslation)在翻译模型中占统治地位,直到出现神经机器翻译(NeuralMachineTranslate,
NMT
)。
白酱六条
·
2022-11-23 09:47
论文阅读——Unsupervised Neural Machine Translation with Indirect Supervision
带有间接监督的无监督神经机器翻译(未开源)https://arxiv.org/pdf/2004.03137.pdf虽然使用单语数据进行无监督神经机器翻译UNMT可以取得不错的结果,但是与监督
NMT
仍存在较大差距
liuy9803
·
2022-11-22 20:38
NLP
[文献阅读]—一篇不错的低资源机器翻译综述(Neural Machine Translation for Low-Resource Languages: A Survey)
基于回译的数据增强平行语料挖掘无监督机器翻译(unsupervisedNMT)初始化回译判别分类器半监督机器翻译(semi-supervisedNMT)使用单语来产生伪平行语料使用单语来产生语言模型改变
NMT
Muasci
·
2022-11-22 20:07
文献阅读之家
机器翻译
自然语言处理
人工智能
Native Memory Tracking追踪区域示例分析
查看
NMT
详情:[0x0000ffff93e3acc0]Thread::allocate(unsignedlong,bool,MemoryType)+0x348[0x0000ffff9377a
·
2022-11-21 00:00
Teacher-Forcing, Student-Forcing, Schedual sampling , Teacher-Recommended and Professor-Forcing训练策略
(2)对于
NMT
任务来说,不可能保证
……Riesling
·
2022-11-20 22:23
算法
机器学习
自然语言处理
深度学习
神经网络
训练策略
序列生成
NMT
十篇必读论文(十)BLEU:a Method for Automatic Evaluation of Machine Translation
原文链接:https://www.jianshu.com/p/15c22fadcba5BLEU(BilingualEvaluationUnderstudy)isanalgorithmforevaluatingthequalityoftextwhichhasbeenmachine-translatedfromonenaturallanguagetoanother.Qualityisconsidere
ylyyyy
·
2022-11-20 16:34
【论文阅读】Document-Level Relation Extraction with Reconstruction(AAAI2021)
重构方法最常用在神经机器翻译
NMT
上,解决翻译不够充分的问题。作者证明了用在DocRE效果也很好。1.异构图构建假设一个文档有L个句子,每个句子有J个词。使用BILSTM对其进行编码。
今天NLP了吗
·
2022-11-20 15:02
论文阅读
人工智能
深度学习
python
最终篇!AAAI 2022值得读的NLP论文盘点
Frequency-AwareContrastiveLearningforNeuralMachineTranslation论文链接:https://arxiv.org/abs/2112.14484低频词预测在现代神经机器翻译(neuralmachinetranslation,
NMT
PaperWeekly
·
2022-11-14 10:19
大数据
编程语言
python
机器学习
人工智能
多目标机器学习_浅析大规模多语种通用神经机器翻译方法
作者|陈贺轩编辑|唐里目前,神经机器翻译(
NMT
)已经成为在学术界和工业界最先进的机器翻译方法。最初的这种基于编码器-解码器架构的机器翻译系统都针对单个语言对进行翻译。
weixin_39854923
·
2022-11-10 12:58
多目标机器学习
机器翻译前沿十问:开源来源于无私的分享 | 东北大学肖桐专访
机器翻译也从SMT(统计机器翻译)过渡到了
NMT
(神经机器翻译)的时代,深度学习的崛起也为主流范式注入了新希望。
智源社区
·
2022-11-10 12:21
人工智能
大数据
编程语言
机器学习
深度学习
Seq2Seq and
NMT
(基于cs224n的最全综述神经机器翻译技术)
文章目录MachineTranslation的简介:统计机器翻译模型(SMT):神经机器翻译(
NMT
)-sequence2sequenceGreedydecodingBeamsearchingdecodingBeamsearchdecoding
不爱写程序的程序猿
·
2022-10-03 21:08
AI
自然语言处理
nlp
神经机器翻译NMT
深度学习
cs224n
神经机器翻译(
NMT
)相关资料整理
作者:zhbzz2007出处:http://www.cnblogs.com/zhbzz2007欢迎转载,也请保留这段声明。谢谢!1简介自2013年提出了神经机器翻译系统之后,神经机器翻译系统取得了很大的进展。最近几年相关的论文,开源系统也是层出不穷。本文主要梳理了神经机器翻译入门、进阶所需要阅读的资料和论文,并提供了相关链接以及简单的介绍,以及总结了相关的开源系统和业界大牛,以便其他的小伙伴可以更
weixin_33805743
·
2022-10-02 07:33
神经机器翻译(
NMT
)详细资料整理
1简介自2013年提出了神经机器翻译系统之后,神经机器翻译系统取得了很大的进展。最近几年相关的论文,开源系统也是层出不穷。本文主要梳理了神经机器翻译入门、进阶所需要阅读的资料和论文,并提供了相关链接以及简单的介绍,以及总结了相关的开源系统和业界大牛,以便其他的小伙伴可以更快的了解神经机器翻译这一领域。随着知识的逐步积累,本文后续会持续更新。请关注。2入门资料这部分主要整理了神经机器翻译入门的资料以
Teng、Jiao
·
2022-10-02 07:42
NLP
[转]神经机器翻译(
NMT
)相关资料整理
1简介自2013年提出了神经机器翻译系统之后,神经机器翻译系统取得了很大的进展。最近几年相关的论文,开源系统也是层出不穷。本文主要梳理了神经机器翻译入门、进阶所需要阅读的资料和论文,并提供了相关链接以及简单的介绍,以及总结了相关的开源系统和业界大牛,以便其他的小伙伴可以更快的了解神经机器翻译这一领域。随着知识的逐步积累,本文后续会持续更新。请关注。2入门资料这部分主要整理了神经机器翻译入门的资料以
Dream1008
·
2022-10-02 07:08
python
php
matlab
Transformer的基本原理
1.Seq2Seq框架1.1.Seq2Seq框架概述Seq2Seq[1]框架最初是在神经机器翻译(NeuralMachineTranslation,
NMT
)领域中提出,用于将一种语言(sequence)
zhiyong_will
·
2022-08-29 07:07
深度学习Deep
Learning
transformer
深度学习
自然语言处理
Python吴恩达深度学习作业23 -- 机器翻译(
NMT
)
神经机器翻译你将建立一个神经机器翻译(
NMT
)模型,以将人类可读的日期(“25thofJune,2009”)转换为机器可读的日期(“2009-06-25”)。
Puzzle harvester
·
2022-08-04 18:14
深度学习
rnn
深度学习
lstm
keras
java 非堆内存泄露_记一次堆外内存泄漏排查过程
本文涉及以下内容开启
NMT
查看JVM内存使用情况通过pmap命令查看进程物理内存使用情况smaps查看进程内存地址gdb命令dump内存块背景最近收到运维反馈,说有项目的一个节点的RSS已经是Xmx的两倍多了
weixin_39878549
·
2022-07-26 10:15
java
非堆内存泄露
论文阅读:《Google's Multilingual Neural Machine Translation System: Enabling Zero-Shot Translation》
论文:https://arxiv.org/pdf/1611.04558.pdf原文:http://www.hankcs.com/nlp/cs224n-google-
nmt
.html双语
NMT
一般“瘦弱”
小爷毛毛(卓寿杰)
·
2022-07-05 07:01
深度学习
自然语言处理
Neural Speech Synthesis with Transformer Network
本文用
NMT
的multi-headself-atttention替代tacotron2中的RNN和attention。(1)encoder和decoder可以并行构建,效率提高。(2)因为s
林林宋
·
2022-07-04 07:53
paper笔记
词对齐任务:依附于机器翻译
NMT
依附下的wordalignment说道机翻显然就想到transformer,其encoder-decoder结构其实即便是在使用了lstm等模型上也是这样的,依附在
NMT
的wordalignment
·
2022-06-24 14:15
NMT
机器翻译案例实战(基于TensorFlow Addons Networks with Attention Mechanism)
NLP系列讲解笔记本专题是针对NLP的一些常用知识进行记录,主要由于本人接下来的实验需要用到NLP的一些知识点,但是本人非NLP方向学生,对此不是很熟悉,也是因为本人对NLP灰常感兴趣,想扎进去好好研究研究,所以打算做个笔记记录一下自己的学习过程,也是为了博士的求学之路做铺垫!希望大家喜欢。如果有哪里写的不对,欢迎大家批评指正,感谢感谢!传送门:第一章细讲:Attention模型的机制原理第二章A
striving长亮
·
2022-04-22 07:42
NLP
机器翻译
tensorflow
自然语言处理
深度学习
nlp
论文阅读——INCORPORATING BERT INTO NEURAL MACHINE TRANSLATION
id=Hyl7ygStwB将BERT引入机器翻译代码:https://github.com/bert-
nmt
/bert-nmtBERT在文本分类、阅读理解等多种NLP任务上都显示出了强大的能力。
liuy9803
·
2022-03-12 07:34
NLP
动手学深度学习PyTorch版--Task4、5--机器翻译及相关技术;注意力机制与Seq2seq模型;Transformer;;卷积神经网络基础;leNet;卷积神经网络进阶
一.机器翻译及相关技术机器翻译(MT):将一段文本从一种语言自动翻译为另一种语言,用神经网络解决这个问题通常称为神经机器翻译(
NMT
)。主要特征:输出是单词序列而不是单个单词。
华尔街的幻觉
·
2022-03-02 07:47
动手学深度学习
-
Pytorch版
深度学习
循环神经网络
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他