NLP+机器翻译第22页

【笔记】Attention Is All You Need 论文分析1：流程介绍

不同的输入之间是没有联系的，但是对于处理序列数据，比如机器翻译等，前面的输入对后

程序猿的探索之路·2022-12-26 13:03

Attention is all you need -- 阅读笔记

最先应用是在NLP领域的机器翻译任务上，由于其简单的结构、强悍的表现，经过几年的发展，越来越多的领域开始使用基于Transformer的深度学习网络。下面是我自己的一点学习笔记，记录下来方便以后复习。

Tender_Li·2022-12-26 13:32

Attetion is all you need论文阅读笔记

Attetionisallyouneed参考：沐神（沐神_论文精讲_Attentionisallyouneed）1、Abstract主流的序列转录模型（给一个序列生成另一个序列，比如机器翻译，给一句英文

Mrwei_418·2022-12-26 13:00

机器翻译技术的瓶颈

文章目录前言概述一、机器翻译的瓶颈在哪里？二、是否存在第四代机器翻译？三、自然语言处理的可解释性研究之争四、观众问答环节Q1：如何加入先验知识，引入外部知识或融合专业术语是不是一种途径？

心伽玛·2022-12-26 13:49

朱靖波：谈谈机器翻译技术发展与产业化

小牛翻译董事长、东北大学计算机学院人工智能系朱靖波教授做了题为《谈谈机器翻译技术发展与产业应用》的特邀报告，以下是报

喜欢打酱油的老鸟·2022-12-26 13:19

计算机辅助翻译与人工智能,2018年机器翻译行业概述与现状，人工智能让人人实现国际化交流...

一、机器翻译行业概述机器翻译，又称为自动翻译，指计算机程序将一种书写形式或声音形式的自然语言翻译成另一种书写形式或声音形式的自然语言，形式包括机器翻译形式包括词典翻译、计算机辅助翻译和文本或语音的句子以及段落翻译

ftggggc·2022-12-26 13:48

目前流行的机器学习算法

这些算法在图像识别、自然语言处理、机器翻译、语音识别、视频分类等方面有很好的表现。集成学习(EnsembleLearnin

Traveler[ke]·2022-12-26 04:42

【NLP】文本生成评价指标：BLEU

BLEUBLEU(BilingualEvaluationunderstudy)是一种流行的机器翻译评价指标，用于分析候选译文和参考译文中n元组共同出现的程度，由IBM于2002年提出。

zkq_1986·2022-12-25 21:05

深度学习命名实体识别综述

NER一直是许多自然语言应用的基础，如问答、文本摘要和机器翻译等。早期的NER系统在设计特定领域的特征和规则时付出了人力工程的代价，在取得良好性能方面取得了巨大的成功。

Necther·2022-12-25 08:01

NLP-NMT-Transformer图解及论文笔记：Attention Is All You Need

前言机器翻译技术的发展一直与计算机技术、信息论、语言学等学科的发展紧密相随。

饮冰l·2022-12-25 08:59

【深度学习】小白看得懂的Transformer图解

谷歌的Transformer模型最早是用于机器翻译任务，当时达到了SOTA效果。Transformer改进了RNN最被人诟病的训练慢的缺点，利用self-attention机制实现快速并行。

风度78·2022-12-25 08:56

GNN图神经网络的matlab仿真

许多曾经严重依赖于手工提取特征的机器学习任务（如目标检测、机器翻译和语音识别），如今都已被各种端到端的深度学习范式（例如卷积神经网络（CNN）、长短期记忆（LSTM）和自动编码器）彻底改变了。

fpga和matlab·2022-12-24 20:21

动手学深度学习（四十四）——Seq2Seq原理与实现

4.训练5.预测6.预测和评估7.用训练好的Seq2Seq模型将英语翻译成法语三、总结一、什么是seq2seq（序列到序列的学习）使用两个RNN设计Encoder-Decoder结构，并将其应用于机器翻译

留小星·2022-12-24 19:31

Attention based ASR(LAS)

Encoder-Decoder2.引入Attention的Encoder-Decoder(AED)3.LAS3.1listen3.2Attention3.3spell4.LAS训练5.总结1.Encoder-Decoder在传统的机器翻译中

qq_50749521·2022-12-24 12:22

RNN-T

RNN-T1introduction许多机器学习任务都可以表示为输入序列到输出序列的转换，如语音识别、机器翻译等。

qq_50749521·2022-12-24 12:45

Tensorflow基础教程5：循环神经网络（RNN）讲解

循环神经网络(RecurrentNeuralNetwork,RNN)是一种适宜于处理序列数据的神经网络，被广泛用于语言模型、文本生成、机器翻译等。循环神经网络的工作

iFlyAI·2022-12-24 08:04

深度神经网络的应用

3、机器翻译：基于

普通网友·2022-12-23 16:17

Transformer 原理理解

注意力是一个有助于提高神经机器翻译应用程序性能的概念。在这篇文章中，我们将研究Transformer——一种使用注意力来提高这些模型训练速度的模型。

scott198510·2022-12-23 14:56

深度学习入门课笔记（三）

举个例子：语音识别、机器翻译、视频的行为识别等二、语言模型语言模型是自然语言处理（NLP）的重要技术。在NLP中常把文本看成离散时间序列，一段长度为T的

是帆帆不是凡凡呀·2022-12-23 12:09

【自然语言处理（NLP）】基于注意力机制的中-英机器翻译

【自然语言处理（NLP）】基于注意力机制的中-英机器翻译作者简介：在校大学生一枚，华为云享专家，阿里云专家博主，腾云先锋（TDP）成员，云曦智划项目总负责人，全国高等学校计算机教学与产业实践资源建设专家委员会

ぃ灵彧が·2022-12-23 08:26

自然语言处理学习笔记-lecture10-机器翻译01

机器翻译的产生与发展机器翻译(machinetranslation,MT)是用计算机把一种语言(源语言,sourcelanguage)翻译成另一种语言(目标语言,targetlanguage)的一门学科和技术

尔呦·2022-12-23 08:21

【Transformer】不仅NLP领域，它在CV界也很火。Transformer基础介绍，附：注意力机制，TNT介绍

处理机器翻译任务时，用什么模型比较好呢？RNN

追光者♂·2022-12-23 08:50

NLP-预训练模型-201806-NLG：GPT-1【Decoder of Transformer】【预训练：GPT使用单向语言模型；Fine-tuning：GPT、Task的参数一起训练】

具备复杂的网络结构，众多的参数量，以及在足够大的数据集下进行训练而产生的模型.在NLP领域，预训练模型往往是语言模型，因为语言模型的训练是无监督的，可以获得大规模语料，同时语言模型又是许多典型NLP任务的基础，如机器翻译

u013250861·2022-12-23 08:59

自然语言处理(NLP)(one-hot vector&Word Embedding词嵌入&语言模型&词向量&CBOW&skip-gram&negative sampling负采样模型)

自然语言处理的应用拼写检查、关键词检索......文本挖掘（产品价格、日期、时间、地点、人名、公司名）文本分类机器翻译客服系统复杂对话系统one-hotvector假设词库总共有n个词，那我们打开一个1

hxxjxw·2022-12-23 06:18

深入理解Self-attention（自注意力机制）

此时输出序列和输入序列长度相同只需要输出一个向量，比如说话人识别、音频事件分类输出序列的长度不能确定，比如语音识别、机器翻译接下来专注于介绍第一种输出类型，这种任务通常被称为序列

DEDSEC_Roger·2022-12-23 04:28

hmm 流程图_一种基于HMM的中文分词方法与流程

背景技术：现代社会，中文分词在信息检索、机器翻译、信息过滤等信息处理中起着重要的作用，是信息处理的关键技术与难点。

純樂·2022-12-22 06:00

详解BLEU的原理和计算

机器翻译指标或者imagecaption指标BLEU的原理和计算参考：《BLEU:aMethodforAutomaticEvaluationofMachineTranslation》计算方法(TheBaselineBLEUMetric

KPer_Yang·2022-12-21 18:58

干货！浅谈文本生成的当下与未来

图1.文本生成的任务刘鹏飞博士从三个方面介绍文本生成任务：首先是主流任务，包括机器翻译、对话生成、文本摘要，其特点在于数据量大、标注多、应

AITIME论道·2022-12-21 14:40

深度学习入门（六十五）循环神经网络——序列到序列学习（seq2seq）

深度学习入门（六十五）循环神经网络——序列到序列学习（seq2seq）前言循环神经网络——序列到序列学习（seq2seq）课件机器翻译seq2seq编码器-解码器细节训练衡量生成序列的好坏的BLEU总结教材

澪mio·2022-12-21 14:29

深度学习入门（六十三）循环神经网络——机器翻译数据集

深度学习入门（六十三）循环神经网络——机器翻译数据集前言循环神经网络——机器翻译数据集教材1下载和预处理数据集2词元化3词表4加载数据集5训练模型6小结前言核心内容来自博客链接1博客连接2希望大家多多支持作者本文记录用

澪mio·2022-12-21 14:28

论文笔记02：深度学习实体关系抽取研究综述

公众号：数据挖掘与机器学习笔记摘要、前言实体关系抽取：通过对文本信息建模，从文本中自动抽取实体对间的语义关系，提取出有效的语义关系应用领域：信息抽取、自然语言理解、信息检索、机器翻译、语义网标注、知识图谱等抽取方法

大雄没有叮当猫·2022-12-21 12:53

Transformer模型简介

Transformer在机器翻译任务上的表现超过了RNN，CNN，只用encoder-decoder和attention机制就能达到很好的效果，最大的优点是可以高效地并行化。

kuokay·2022-12-21 08:46

笔记：语言模型（Language Model）（一）

笔记，总结纪录自《统计自然语言处理（第二版）（宗成庆）》语言模型（languagemodel，LM）在自然语言处中，尤其是基于统计模型的语音识别、机器翻译、汉语自动分词、句法分析等相关研究中都有广泛的应用

阿秋就是阿秋·2022-12-21 06:10

ASFformer模型简述

目录提出问题问题的解决方案基本模型EncoderDecoder单一解码器多头解码器数据集评估指标具体实验提出问题transformer最初是为机器翻译任务设计的，在过去的几年里，它在几乎所有的自然语言处理

你饿了嘛？？·2022-12-20 15:37

LSTM原理详解及keras代码实现

基本原理前言当我们处理与事件发生的时间轴有关系的问题时，比如自然语言处理，文本处理，文字的上下文是有一定的关联性的；时间序列数据，如连续几天的天气状况，当日的天气情况与过去的几天有某些联系；又比如语音识别，机器翻译等

在路上Hlh·2022-12-20 14:06

北京内推 | 微软亚洲研究院机器学习组招聘强化学习方向研究型实习生

在过去的十几年间，发表了大量被高度引用的论文（例如，梯度提升决策树LightGBM,对偶学习DualLearning,预训练模型MASS,快速语音合成FastSpeech,达到人类水平的机器翻译

PaperWeekly·2022-12-20 14:37

transformer模型的奥秘-学习笔记

其实，在刚开始提出tarnsformer这个模型时是用在机器翻译中，但是，BERT、GBT等模型中transformer表现很好。不同于R

Mr.Wu6666·2022-12-20 07:05

实践 | 文本生成

文本生成文本生成介绍1.加载开发环境2.统计数据集信息，确定句子长度3.构建中文词表、英文词表4.创建数据集5.构建基于Transformer的机器翻译模型6.使用上述训练好的模型进行测试文本生成介绍序列对序列注意力机制

大数据界Olu·2022-12-20 01:20

【一起入门NLP】中科院自然语言处理作业四：RNN+Attention实现Seq2Seq中英文机器翻译（Pytorch）【代码+报告】

同样也是从小白的视角解读程序和代码，现在我们开始吧（今天也是花里胡哨的一天呢）目录1.程序与实验说明实验要求程序说明2.知识概述2.1序列生成问题Seq2Seq2.2RNN+Attention架构生成模型2.3机器翻译

vector<>·2022-12-19 20:39

decaNLP-一个可以同时处理机器翻译、问答、摘要、文本分类、情感分析等十项自然语言任务的通用模型

38359753https://einstein.ai/static/images/pages/research/decaNLP/decaNLP.pdf引言深度学习已经显著地改善了自然语言处理任务中的最先进的性能，如机器翻译

ljtyxl·2022-12-19 08:15

BLEU：一种应用于机器翻译的Metric

学习笔记——BLEU：一种应用于机器翻译的Metric在文本生成任务中，机器翻译的出的句子各种各样那如何去评价不同翻译结果的好坏呢？

go with me·2022-12-19 08:06

Rouge——机器翻译Metric

学习笔记——RougeROUGE是2004年由ISI的Chin-YewLin提出的一种自动摘要评价方法，是评估自动文摘和机器翻译的一组指标。

go with me·2022-12-19 07:00

举个例子讲下transformer的输入输出细节及其他

主要讲下数据从输入到encoder到decoder输出这个过程中的流程（以机器翻译为例子）：1.encoder对于机器翻译来说，一个

anshiquanshu·2022-12-19 06:04

图解 Attention（完整版）！

序列到序列（seq2seq）模型是一种深度学习模型，在很多任务上都取得了成功，如：机器翻译、文本摘要、图像描述生成。谷歌翻译在2

小白学视觉·2022-12-19 03:46

【研究生】图解神经机器翻译中的注意力机制

几十年来，统计机器翻译在翻译模型中一直占主导地位[9]，直到神经机器翻译（NMT）出现。NMT是一种新兴的机器翻译方法，它试图构建和训练单个大型神经网络，该网络读取输入文本并输出译文[1]。

计算机与软件考研·2022-12-19 03:16

干货 | NLP中的self-attention【自-注意力】机制

在2017年6月google机器翻译团队在arXiv上放出的《Attentionisallyouneed》论文受到了大家广泛关注，自注意力（self-attention）机制开始成为神经网络attentio

机器学习算法与Python学习·2022-12-19 03:15

图解 Attention

visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention/序列到序列（seq2seq）模型是一种深度学习模型，在很多任务上都取得了成功，如：机器翻译

张贤同学·2022-12-19 03:45

机器翻译及相关技术 & 注意力机制与Seq2seq模型 & Transformer

gbl5555·2022-12-19 03:45

nlp中mask(掩码)操作总结--解决语句输入长短不一问题

注：看了许多种任务，机器翻译，实体命名识别，对话系统。

可以调素琴·2022-12-18 16:26

深入理解“预训练”

知乎：潘小小职位：字节跳动AILabNLP算法工程师方向：多语言机器翻译深度学习自然语言处理公众号出品文本预训练系列是我的专栏《小小的机器世界》中的一个重要子系列，系列里包含了文本预训练历程中有重要影响和意义的预训练框架的详细讲解

zenRRan·2022-12-18 12:34

推荐频道

NLP+机器翻译