xlnet

情感识别难？图神经网络创新方法大幅提高性能

随着诸如Attention和Transformers之类新发明的出现，BERT和XLNet一次次取得进步，使得文本情感识别之类的等任务变得更加容易。
AI科技大本营·2019-11-06 21:26

15 分钟搭建一个基于XLNET的文本分类模型——keras实战

今天笔者将简要介绍一下后bert时代中一个又一比较重要的预训练的语言模型——XLNET，下图是XLNET在中文问答数据集CMRC2018数据集（哈工大讯飞联合实验室发布的中文机器阅读理解数据，形式与SQuAD
王同学死磕技术·2019-11-04 15:08

16项中英文任务表现超越BERT和XLNet

继1.0后，ERNIE英文任务方面取得全新突破，在共计16个中英文任务上超越了BERT和XLNet,取得了SOTA效果。目前，百度ERNIE2.0的Fine-
wx5dbbe3b9531ed·2019-11-01 18:06

16项中英文任务表现超越BERT和XLNet

继1.0后，ERNIE英文任务方面取得全新突破，在共计16个中英文任务上超越了BERT和XLNet,取得了SOTA效果。目前，百度ERNIE2.0的Fine-
百度ERNIE·2019-11-01 18:43

Simple Transformer：用BERT、RoBERTa、XLNet、XLM和DistilBERT进行多类文本分类

作者|ThilinaRajapakse译者|Raku编辑|夕颜出品|AI科技大本营（ID:rgznai100）【导读】本文将介绍一个简单易操作的Transformers库——SimpleTransformers库。它是AI创业公司HuggingFace在Transformers库的基础上构建的。HuggingFaceTransformers是供研究与其他需要全面控制操作方式的人员使用的库，简单易操
AI科技大本营·2019-10-28 19:48

RoBERTa

问题求解：在XLNet全面超越Bert后没多久，Facebook提出了RoBERTa（aRobustlyOptimizedBERTPretrainingApproach）。
hyserendipity·2019-10-19 21:00

张俊林：BERT和Transformer到底学到了什么 | AI ProCon 2019

学界不断提出新的预训练模型，刷新各项任务指标，业界也不断尝试在工程问题中引用BERT、XLNet等预训练模型，那BERT为什么能有这么好的效果，深入其原理本身，又究竟好在哪里？
AI科技大本营·2019-10-19 20:03

张俊林：BERT和Transformer到底学到了什么 | AI ProCon 2019

学界不断提出新的预训练模型，刷新各项任务指标，业界也不断尝试在工程问题中引用BERT、XLNet等预训练模型，那BERT为什么能有这么好的效果，深入其原理本身，又究竟好在哪里？
AI科技大本营·2019-10-19 20:03

XLNet预训练模型，看这篇就够了！(代码实现)

总之，XLNet是一种通用的自回归预训练方法。
mantch·2019-09-30 10:00

阿里发布NLP和MT自学习平台，还剖析了小蜜平台的NLP技术实践

整理|Just出品|AI科技大本营（ID:rgznai100）随着BERT、XLNET等新技术的涌现，深度NLP在语言分析、理解和处理等问题上继续取得突飞猛进的发展，并为更多行业赋予了智能化能力。
AI科技大本营·2019-09-29 11:39

阿里发布NLP和MT自学习平台，还剖析了小蜜平台的NLP技术实践

整理|Just出品|AI科技大本营（ID:rgznai100）随着BERT、XLNET等新技术的涌现，深度NLP在语言分析、理解和处理等问题上继续取得突飞猛进的发展，并为更多行业赋予了智能化能力。
AI科技大本营·2019-09-29 11:39

解析pytorch_transformer之model_bert.py

pytorch_transformers包含BERT,GPT,GPT-2,Transfo-XL,XLNet,XLM等多个模型，并提供了27个预训练模型。
JL_Jessie·2019-09-28 13:15

解析pytorch_transformer之tokenization_bert.py

pytorch_transformers包含BERT,GPT,GPT-2,Transfo-XL,XLNet,XLM等多个模型，并提供了27个预训练模型。
m0_37531129·2019-09-28 10:04

xlnet--数据预处理

forsplit,batch_sizeinzip(["train","valid"],[FLAGS.per_host_train_bsz,FLAGS.per_host_valid_bsz]):ifbatch_size0anduse_tpu:#validate`bin_sizes`and`cutoffs`assertlen(cutoffs)-len(bin_sizes)==2,\"len(cutof
ljz2016·2019-09-22 12:14

XLNet模型第一作者杨植麟：NLP落地的四个技术阶段

x26amp;scene=124#wechat_redirect作者|Recurrent.ai来源|RecurrentAI（ID:gh_0382adb3c10e）近日，Recurrent.ai联合创始人、XLNet
AI科技大本营·2019-09-17 18:15

XLNet模型第一作者杨植麟：NLP落地的四个技术阶段

x26amp;scene=124#wechat_redirect作者|Recurrent.ai来源|RecurrentAI（ID:gh_0382adb3c10e）近日，Recurrent.ai联合创始人、XLNet
AI科技大本营·2019-09-17 18:15

Bert提取句子特征（pytorch_transformers）

pytorch_transformerspytorch_transformersQuickstartpytorch_transformers包含BERT,GPT,GPT-2,Transfo-XL,XLNet
千里驰援李天霞·2019-09-15 20:20

XLNET中文文本分类

一.Xlnet概述Xlnet，自BERT预训练-微调模式开创以来，这个自然语言处理NLP中的又一重大进展。
大漠帝国·2019-08-29 23:31

CCF BDCI 互联网新闻情感分析 baseline思路（持续更新..）

目前roberta+5fold线上0.8091，当前排名top349.4xlnet设置maxseqlength512，线上单模0.7999，再voting一下，线上0.8067，当前排名top99.2上分啦
Uzii·2019-08-29 14:41

【NLP】有三AI-NLP专栏首季总结与展望

这三个月，我们的NLP专栏更新了不少的内容，从NLP中最常用的机器学习模型，如HMM、CRF，到如今非常火爆的BERT，XLnet等预训练模型；从RNN等传统的神经网络抽取器，到现今最新的TransformerXL
言有三·2019-08-28 00:59

从语言模型到XLNet的知识点笔记

AttentionMechanism四、Transformer五、TransformerXL六、Pretrain+FinetunePipeline（一）ELMo（二）GPT（三）BERT（四）GPT2.0（五）XLNet
zakexu·2019-08-25 18:36

NLP模型发展综述，从word2vec到XLNet

NLP模型发展综述word2vec时间：2013.01论文地址：https://arxiv.org/abs/1301.3781github:https://github.com/danielfrg/word2vec问题提出：one-hot编码解决了文本特征离散表示的问题，但它假设词与词相互独立并且特征向量会过于稀疏，会造成维度灾难。方法：通过训练，将每个词都映射到一个较短的词向量上来。所有的这些词
@高瑞·2019-08-23 20:26

XLNet原理介绍

1.引言前面介绍了ELMo、BERT、CSE等语言模型，这些语言模型在很多下游NLP任务上都取得了不错的成绩，根据他们的目标函数和模型的结构，可以大致将这些模型分为两大类，即自回归模型（autoregressive，AR）和自编码模型（autoencoding，AE）。对于给定的一个文本序列x=(x1,⋯ ,xT)\mathbf{x}=\left(x_{1},\cdots,x_
林楚海·2019-08-23 16:06

福利！GitHub上6个超强开源机器学习库盘点

全文共2433字，预计学习时长5分钟1.XLNet：下一代大型自然语言处理框架传送门：https://github.com/zihangdai/xlnet自然语言处理是目前机器学习领域最热门的话题，本文也将从这里开始
读芯术·2019-08-21 15:23

xlnet中文文本分类任务

xlnet中文版本预训练模型终于出来了，见地址https://github.com/ymcui/Chinese-PreTrained-XLNet，出来之后尝试了下中文文本分类模型，xlnet模型相比bert
旭旭_哥·2019-08-21 10:50

通吃BERT、GPT-2，用TF 2.0实现谷歌破世界纪录的机器翻译模型Transformer

博主在TensorFlow2.0中创建了一个Transformer模型包，可用于重新构建GPT-2、BERT和XLNet。
机器学习算法与Python学习-公众号·2019-08-21 08:00

利用TensorFlow实现经典NLP算法以及BERT和XLNet现代深度学习架构

引言数据挖掘领域国际最高级别会议KDD2019已于2019年8月4日-8日在美国阿拉斯加州安克雷奇市举行。专知推荐在KDD2019上的一个TF2.0+NLP教程，本教程是Google资深开发人员讲授，提供了最新基于TensorFlow2.0的NLP实操介绍，重点介绍Embeddings，seq2seq，attention和神经机器翻译等经典的NLP主题，以及Transformer、BERT和XLN
Mr.Jk.Zhang·2019-08-20 22:38

【NLP】XLnet：GPT和BERT的合体，博采众长，所以更强

本文介绍BERT的改进版，XLnet。看看它用了什么方法，改进了BERT的哪些弱点。作者&编辑|小Dream哥1为什么要有XLnet?
言有三·2019-08-20 11:00

BERT or XLNet，围观NLP巅峰烧钱大战。技术发展太快，如何才能跟得上节奏？

在过去的几个月时间里，Google和Facebook在一场别样的大战上打得火热，自从Google的XLNet横空出世战胜了BERT的记录，Facebook就开始默默憋大招了。
Paper_weekly·2019-08-10 13:40

改进版的RoBERTa到底改进了什么？

在XLNet全面超越Bert后没多久，Facebook提出了RoBERTa（aRobustlyOptimizedBERTPretrainingApproach）。再度在多个任务上达到SOTA。
Johann_Liang·2019-08-06 22:59

从Transformer、BERT到GPT2和XLNet：高端玩家如何用论文互怼

这篇文章源于和实验室同学吃饭时的一次聊天，当时就觉得很有意思，就顺便写下来了——自然语言处理的历史源远流长，不过这篇文章要讲的故事得从机器翻译说起众所周知，谷歌的机器翻译一直是业内标杆，追求者众，但是谷歌显然欲求不满于是在2016年上线了全新版本的神经网络翻译系统，而这个系统就是基于RNN全家桶的，毕竟RNN的优势就在于能处理变长序列并且自带序列位置信息然而刚到2017年，Facebook的FAI
larry233·2019-08-03 17:22

他们创造了横扫NLP的XLNet：专访CMU博士杨植麟

TransformerXL和XLNet是最近自然语言处理(NLP)领域里最热的话题之一，而它们都是CMU博士生戴自航、杨植麟等人的工作。
fsgrgs·2019-08-02 16:02

16项中英文任务表现超越BERT和XLNet

原文链接：https://aiprocon.csdn.net/m/topic/ai_procon/index#nav03整理|夕颜出品|AI科技大本营（ID:rgznai100）导读：2019年3月，百度正式发布NLP模型ERNIE，其在中文任务中全面超越BERT一度引发业界广泛关注和探讨。今天，百度发布了ERNIE2.0，指出其在英文任务方面取得全新突破，在共计16个中英文任务上超越了BERT和
AI科技大本营·2019-07-31 21:17

16项中英文任务表现超越BERT和XLNet

原文链接：https://aiprocon.csdn.net/m/topic/ai_procon/index#nav03整理|夕颜出品|AI科技大本营（ID:rgznai100）导读：2019年3月，百度正式发布NLP模型ERNIE，其在中文任务中全面超越BERT一度引发业界广泛关注和探讨。今天，百度发布了ERNIE2.0，指出其在英文任务方面取得全新突破，在共计16个中英文任务上超越了BERT和
AI科技大本营·2019-07-31 21:17

16项中英文任务表现超越 BERT 和 XLNet

继1.0后，ERNIE英文任务方面取得全新突破，在共计16个中英文任务上超越了BERT和XLNet，取得了SOTA效果。目前，百度ERNIE2.0的Fine-
paddlepaddle·2019-07-31 18:40

Facebook开源加强版BERT，全面超越XLNet

今年六月，谷歌发布XLNet，指出并解决了BERT的缺点，在20多个指标上全面刷爆了BERT之前的成绩，数据、算力相比BERT增加了很多，也在业内引起了激烈讨论：到底该用BERT还是XLNet？
BigDataDigest·2019-07-30 13:05

是时候“抛弃”谷歌 BERT 模型了！新型预训练语言模型问世

s=PigpOzA/LTE%3D作者|XLNetTeam译者|孙薇责编|Jane出品|AI科技大本营（ID:rgznai100）近日，XLNet团队发布了新型预训练语言模型XLNet，这个新模型在各项基准测试中都优于谷歌之前发布的
CSDN资讯·2019-07-28 10:41

XLNet：公平PK，BERT你已经被超过！

作者|XLNetTeam译者|孙薇责编|Jane出品|AI科技大本营（ID:rgznai100）【导语】几周前，XLNet团队发布了新型预训练语言模型XLNet，这个新模型在各项基准测试中都优于谷歌之前发布的
AI科技大本营·2019-07-24 18:03

Attention,Transformer,BERT,XLNet,Transformer-XL

1传统的词向量的缺点传统WordEmbedding的预训练表示是上下文无关的，例如word2vec,glove,fasttext，在训练好词向量之后不能表示多义单词，例如：bankdeposit（银行）VSriverband（岸边）2什么是BERTBERT:BidirectionalEncoderRepresentationsfromTransformers。它是一种预训练语言的表示，上下文相关。
guohui_0907·2019-07-22 15:00

xlnet pytorch简易版代码解读

xlnet-pytorch版本代码解读安装参数分析data_utils.py代码分析这篇不详细介绍xlnet的原理，有需要了解的请自行前往xlnet原理分析安装首先cloneXLNet-pytorch的源码
Longriver111·2019-07-19 14:06

XLNet: Generalized Autoregressive PreTraining for Language Understanding

XLNet:GeneralizedAutoregressivePreTrainingforLanguageUnderstanding个人翻译，并不专业。
DarrenXf·2019-07-18 20:42

XLNet: Generalized Autoregressive PreTraining for Language Understanding

XLNet:GeneralizedAutoregressivePreTrainingforLanguageUnderstanding个人翻译，并不专业。
DarrenXf·2019-07-18 20:42

【深度学习】 XLNet的细节以及和bert的联系和区别

这两天，XLNet貌似也引起了NLP圈的极大关注，从实验数据看，在某些场景下，确实XLNet相对Bert有很大幅度的提升。
UESTC_20172222·2019-07-18 11:34

追溯XLNet的前世今生：从Transformer到XLNet

作者丨李格映来源|转载自CSDN博客导读：2019年6月，CMU与谷歌大脑提出全新XLNet，基于BERT的优缺点，XLNet提出一种泛化自回归预训练方法，在20个任务上超过了BERT的表现，并在18个任务上取得了当前最佳效果
AI科技大本营·2019-07-14 19:54

XLNet：论文阅读笔记 PPT

参考文献：论文地址：https://arxiv.org/pdf/1906.08237.pdf预训练模型及代码地址：https://github.com/zihangdai/xlne知乎专栏：https://zhuanlan.zhihu.com/p/70473423阅读笔记主要从以下几个方面展开：Abstract摘要AutoregressiveLMVSBert自回归语言模型vsbertProblem
whxf_·2019-07-11 23:40

什么是 XLNet，为何它会超越 BERT？

原文：https://towardsdatascience.com/what-is-xlnet-and-why-it-outperforms-bert-8d8fce710335towardsdatascience.com
朱小虎XiaohuZhu·2019-07-10 19:22

什么是 XLNet，为何它会超越 BERT？

原文：https://towardsdatascience.com/what-is-xlnet-and-why-it-outperforms-bert-8d8fce710335towardsdatascience.com
朱小虎XiaohuZhu·2019-07-10 19:22

XLNet理解

XLNet理解XLNet是CMU和谷歌大脑在6月份，提出的一个新的预训练模型。
zycxnanwang·2019-07-09 22:17

XLNet代码分析

转载自http://fancyerii.github.io/2019/06/30/xlnet-codes/如需删除请联系谢谢目录训练的代价(钱)安装Pretraining训练数据格式运行预处理数据data_utils.py
sliderSun·2019-07-06 17:52

XLNet基本思想简介以及为什么它优于BERT

前几天刚刚发布的XLNet彻底火了，原因是它在20多项任务中超越了BERT。这是一个非常让人惊讶的结果。
数据学习（Datalearner）·2019-07-05 14:33
上一页 1 2 3 4 5 6 7 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他