elmo

深度学习的基础知识(RNN、LSTM等模型、梯度消失与爆炸、正则化、优化方式)

今天在看迁移学习中的一个模型COVE，里面用到了LSTM（ELMo也是），故而想回顾一下深度学习中的一些基础知识。
momo_zhong·2019-03-04 14:14

ELMo模型解读

在反复的看了ELMo源码和参考网上各路大神的经验之后，终于对ELMo的架构有了比较清楚的认识。总结一下自己对ELMo的理解，其实还有很多细节没有搞清楚。
firesolider·2019-03-03 20:25

从Seq2Seq，Attention，Transformer到ELMo，BERT，GPT-2（一）

一图了解从Seq2Seq，Attention，Transformer到ELMo，BERT，GPT-2的发展过程。
liuy9803·2019-03-01 12:46

BERT学习链接

简书网友讲解BERTBERT开源代码tensorflow版BERT+BILSTM+CRF进行实体识别BERT+BILSTM+CRF实体识别代码知乎BERT详解原始论文下载ELMO算法学习张俊林全面详细介绍
勿在浮沙筑高台LS·2019-02-12 13:03

NLP课程：Encoder-Decoder框架、Attention、Transformer、ELMO、GPT、Bert学习总结

Encoder-Decoder框架：可以把它看作适合处理由一个句子（或篇章）生成另外一个句子（或篇章）的通用处理模型。对于句子对，我们的目标是给定输入句子Source，期待通过Encoder-Decoder框架来生成目标句子Target。Encoder顾名思义就是对输入句子Source进行编码，将输入句子通过非线性变换转化为中间语义表示C：对于解码器Decoder来说，其任务是根据句子Source
张楚岚·2019-01-31 11:48

【论文阅读笔记】Cross-lingual Language Model Pretraining

近一年来，NLP领域发展势头强劲，从ELMO到LSTM再到去年最牛叉的GoogleBert，在今年年初，Facebook又推出了XLM模型，在跨语言预训练领域表现抢眼。
cskywit·2019-01-29 10:47

图解BERT及ELMo

原文链接：TheIllustratedBERT,ELMo,andco.
MarsYWK·2019-01-28 15:28

关于Google Bert中的一些问题

ELMo虽然也是双向的，但是它是left-to-right和right-to-left分开训练再融合。实现过tr
IT莫莫·2019-01-27 13:01

使用Beaglebone Black发送PWM控制ELMO实验

一、软件调试驱动器增益调节结束后，在调试界面（如图1.a），分别输入RM=1;YA[4]=0。这2个命令解释如下：SetRM=1inordertoenabletheauxiliarypositioncommand.SetYA[4]=0inordertodefinethepulseanddirectionmodes.之后导入使能程序（如图1.b所示）。图1.a命令要求图1.b使能程序#@AUTOEX
合工大机器人实验室·2019-01-20 15:35

论文阅读与实践--ELMO模型

Deepcontextualizedwordrepresentationselmo模型就是以双向语言模型为基础，用各层之间的线性组合来表示词向量，elmo能够处理不同句子中的同义词的区分。
小小码农JACK·2019-01-18 14:39

文本分类实战（十）—— BERT 预训练模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-08 20:00

迁移学习NLP：BERT、ELMo等直观图解

摘要：图解，2018年自然语言处理领域最成功的方向！2018年是自然语言处理的转折点，能捕捉潜在意义和关系的方式表达单词和句子的概念性理解正在迅速发展。此外，NLP社区已经出现了非常强大的组件，你可以在自己的模型和管道中自由下载和使用（它被称为NLP的ImageNet时刻）。在这个时刻中，最新里程碑是发布的BERT，它被描述NLP一个新时代的开始。BERT是一个模型，它打破了前几个模型处理基于语言
城市中迷途小书童·2019-01-08 12:57

Bert由来之--word2vec和transformer

word2vec->Transformer->ELMo->Bertword2vec是训练词向量。有skim-gram和CBOW两种形式。重点：训练样本是一个句子的中心词和周围的词拼接成。
zixufang·2019-01-08 11:18

文本分类实战（九）—— ELMO 预训练模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-07 18:00

Bert论文浅析

本博文默认你对：Word2Vec/ELMo/transformer/OpenAIGPT有一定了解bert是Google于今年10月提出的模型，该模型打破了多项NLP的记录，甚是牛逼。
Wzz_Liu·2019-01-05 16:04

文本分类实战（八）—— Transformer模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-02 20:00

文本分类实战（七）—— Adversarial LSTM模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-02 14:00

文本分类实战（六）—— RCNN模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-02 14:00

文本分类实战（五）—— Bi-LSTM + Attention模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-02 14:00

文本分类实战（四）—— Bi-LSTM模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-02 13:00

文本分类实战（三）—— charCNN模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-02 11:00

文本分类实战（二）—— textCNN 模型

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-02 11:00

文本分类实战（一）—— word2vec预训练词向量

1大纲概述文本分类这个系列将会有十篇左右，包括基于word2vec预训练的文本分类，与及基于最新的预训练模型（ELMo，BERT等）的文本分类。
微笑sun·2019-01-02 10:00

深度学习----NLP-ELMO算法模型解剖

文章目录简介Bidirectional语言模型(1)forwardlanguagemodel(前向语言模型)and(2)backwordlanguagemodel（2）biLM(bidirectionallanguagemodel)过程图线性组合总结论文地址：https://arxiv.org/pdf/1802.05365.pdf简介~~~~~~~~作者认为好的词表征模型应该同时兼顾两个问题：一是
sakura小樱·2018-12-24 17:40

平安金融壹帐通面试总结

２．ELMO,GPT,BERT之间的区别。３．Hightwaynetwork的作用４．反馈:看论文要有深度，多做ablation实验。５．多动手，多动手，再三强调，多动手。。。。
biubiubiu888·2018-12-21 09:16

如何将ELMo词向量用于中文

from：http://www.linzehui.me/2018/08/12/%E7%A2%8E%E7%89%87%E7%9F%A5%E8%AF%86/%E5%A6%82%E4%BD%95%E5%B0%86ELMo
shelley__huang·2018-12-19 09:55

深度学习：ELMO、GPT和BERT模型

ELMO模型ELMo的整体图。第一使用了多层LSTM，第二增加了后向语言模型（backwardLM）。Note:1输入是一个句子的embeddingE1~En，输出是T1～Tn（分别对应其上下文）。
-柚子皮-·2018-12-18 15:37

ELMo模型的理解与实践（2）

预训练好的词向量已经released，这里介绍一下，如何直接获取ELMo词向量。在pytorch里可以通过AlenNLP包使用ELMo。
黄鑫huangxin·2018-12-18 13:56

ELMo模型的理解与实践（1）

论文：2018NAACL《DeepContextualizedWordRepresentations》一、优点1.学习单词的复杂特征，包括语法、语义2.学习在不同上下文下的一词多义二、模型1.Bidirectionallanguagemodels（BLM）首先给定N个单词的序列，1）前向语言模型，已知前k-1个单词，预测第k个单词的概率：2）后向语言模型，已知下文，预测第k个单词：双向语言模型（b
黄鑫huangxin·2018-12-18 13:43

词向量发展史-共现矩阵-SVD-NNLM-Word2Vec-Glove-ELMo

话不多说，直接上干货。首先介绍相关概念：词嵌入：把词映射为实数域上向量的技术也叫词嵌入（wordembedding）。词向量的分类表示：一、共现矩阵通过统计一个事先指定大小的窗口内的word共现次数，以word周边的共现词的次数做为当前word的vector。具体来说，我们通过从大量的语料文本中构建一个共现矩阵来定义wordrepresentation。例如，有语料如下：Ilikedeeplear
知然刘旭·2018-12-13 15:10

迁移学习NLP：BERT、ELMo等直观图解

摘要：图解，2018年自然语言处理领域最成功的方向！2018年是自然语言处理的转折点，能捕捉潜在意义和关系的方式表达单词和句子的概念性理解正在迅速发展。此外，NLP社区已经出现了非常强大的组件，你可以在自己的模型和管道中自由下载和使用（它被称为NLP的ImageNet时刻）。在这个时刻中，最新里程碑是发布的BERT，它被描述NLP一个新时代的开始。BERT是一个模型，它打破了前几个模型处理基于语言
阿里云云栖社区·2018-12-13 12:54

迁移学习NLP：BERT、ELMo等直观图解

2018年是自然语言处理的转折点，能捕捉潜在意义和关系的方式表达单词和句子的概念性理解正在迅速发展。此外，NLP社区已经出现了非常强大的组件，你可以在自己的模型和管道中自由下载和使用（它被称为NLP的ImageNet时刻）。在这个时刻中，最新里程碑是发布的BERT，它被描述NLP一个新时代的开始。BERT是一个模型，它打破了前几个模型处理基于语言的任务的记录。该模型的论文发布后不久，团队还开放了该
阿里云云栖社区·2018-12-13 11:05

迁移学习NLP：BERT、ELMo等直观图解

摘要：图解，2018年自然语言处理领域最成功的方向！2018年是自然语言处理的转折点，能捕捉潜在意义和关系的方式表达单词和句子的概念性理解正在迅速发展。此外，NLP社区已经出现了非常强大的组件，你可以在自己的模型和管道中自由下载和使用（它被称为NLP的ImageNet时刻）。在这个时刻中，最新里程碑是发布的BERT，它被描述NLP一个新时代的开始。BERT是一个模型，它打破了前几个模型处理基于语言
阿里云云栖社区·2018-12-13 00:00

NLP预训练语言模型

就此，我将最近看的一些相关论文进行总结，选取了几个代表性模型（包括ELMo[1]，OpenAIGPT[2]和BERT[3]）和大家一起学习分享。1.引言在介绍论文之前，我将先简单介绍一些相关背景知识。
fkyyly·2018-12-12 17:20

词向量经典模型：从word2vec、glove、ELMo到BERT

这里总结一下比较经典的语言模型方法：word2vec、glove、ELMo、BERT。其中BERT是最新Google发表的模型，在11个经典的NLP任务中全面超越最佳模型，并
xiayto·2018-12-05 23:27

BERT

原文链接：TheIllustratedBERT,ELMo,andco.
adam-liu·2018-12-04 15:20

从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史

目录图像领域的预训练WordEmbedding考古史从WordEmbedding到ELMO从WordEmbedding到GPTBert的诞生Bert最近很火，应该是最近最火爆的AI进展，网上的评价很高，
hearthougan·2018-11-19 00:00

ELMo（Embeddings from Language Models） --学习笔记

学习参考自：（1）、ELMo最好用的词向量《DeepContextualizedWordRepresentations》（2）、吾爱NLP(5)—词向量技术-从word2vec到ELMo（3）文本嵌入的经典模型与最新进展
Juanly Jack·2018-11-09 23:28

NLP中语言模型预训练方法

就此，我将最近看的一些相关论文进行总结，选取了几个代表性模型（包括ELMo[1]，OpenAIGPT[2]和BERT[3]）和大家一起学习分享。1.引言在介绍论文之前，我将先简单介绍一些相关背景知识。
旭旭_哥·2018-11-09 13:50

文献阅读笔记—BERT: Pretraining of Deep Bidirectional Transformers for Language Understanding

（一）ELMO：Deepcontextualizedwordrepresentations（二）UniversalLanguageModelFine-tuningforTextClassification
manmanxiaowugun·2018-11-07 13:52

文献阅读笔记—Improving Language Understanding by Generative Pre-Training

（一）ELMO：Deepcontextualizedwordrepresentations（二）UniversalLanguageModelFine-tuningforTextClassification
manmanxiaowugun·2018-11-06 22:01

词向量技术(从word2vec到ELMo)以及句嵌入技术

很好的资料https://www.jianshu.com/p/a6bc14323d77https://www.jiqizhixin.com/articles/2018-06-06-4词嵌入技术目前常用词向量模型是word2vec和glove,它们都是基于分布假说(在相同的上下文中出现的单词往往具有相似的含义)的无监督学习方法。纯粹的无监督学习方法在2017年到2018年得到了令人关注的提升，Fas
Doooer·2018-11-06 20:17

文献阅读笔记—Universal Language Model Fine-tuning for Text Classification

（一）ELMO：Deepcontextualizedwordrepresentations（二）UniversalLanguageModelFine-tuningforTextClassification
manmanxiaowugun·2018-11-05 21:25

BERT：From Transformer Architecture to Transfer Learning

然后可以集中精力从TransferLearning的角度来比较ELMo，GPT，BERT这三篇文章的优劣异同。原文发布于个人博客(好望角)，并在博客持续修改更新，此处不支持视
OnlyChristmas·2018-11-05 16:51

从word2vec, ELMo到BERT

从word2vec,ELMo到BERT2018-10-2410:20|发布者:炼数成金_小数|查看:6920|评论:0|原作者:夕小瑶|来自:夕小瑶的卖萌屋http://www.dataguru.cn/
_Kevin_Duan_·2018-11-02 19:55

谷歌最强 NLP 模型 BERT 解读

从elmo-->ULMFiT-->gpt-->bert，大概是这个流程最近谷歌研究人员通过新的BERT模型在11项NLP任务中夺得STOA结果，这在自然语言处理学界以及工业界都引起了不小的热议。
旭旭_哥·2018-10-28 21:15

文献阅读笔记—Deep contextualized word representations

（一）ELMO：Deepcontextualizedwordrepresentations（二）UniversalLanguageModelFine-tuningforTextClassification
manmanxiaowugun·2018-10-26 16:28

自然语言处理中的语言模型预训练方法

就此，我将最近看的一些相关论文进行总结，选取了几个代表性模型（包括ELMo[1]，OpenAIGPT[2]和BERT[3]）和大家一起学习分享。
Paper_weekly·2018-10-22 07:41

自然语言处理中的语言模型预训练方法（ELMo、GPT和BERT）

原文链接：http://www.cnblogs.com/robert-dlut/p/9824346.html自然语言处理中的语言模型预训练方法（ELMo、GPT和BERT）最近，在自然语言处理（NLP）
weixin_34228662·2018-10-21 10:00

自然语言处理中的语言模型预训练方法（ELMo、GPT和BERT）

自然语言处理中的语言模型预训练方法（ELMo、GPT和BERT）最近，在自然语言处理（NLP）领域中，使用语言模型预训练方法在多项NLP任务上都获得了不错的提升，广泛受到了各界的关注。
robert_ai·2018-10-21 10:00
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他