ERNIE

为Bert注入知识的力量 Baidu-ERNIE & THU-ERNIE & KBert

Tutorial分别针对NLU和NLG方向对一些经典方案进行了分类汇总，这一章我们只针对NLU领域3个比较经典的知识增强方案Baidu-ERNIE，THU-ERNIE和K-Bert来聊下具体实现~
风雨中的小七·2022-08-18 08:00

“地理-语言”大模型文心ERNIE-GeoL及应用

本文整理自百度人工智能技术委员会主席、百度地图首席研发架构师黄际洲的主题演讲——“地理-语言”预训练大模型文心ERNIE-GeoL及应用。
飞桨PaddlePaddle·2022-08-02 12:21

“地理-语言”大模型文心ERNIE-GeoL及应用

本文整理自百度人工智能技术委员会主席、百度地图首席研发架构师黄际洲的主题演讲——“地理-语言”预训练大模型文心ERNIE-GeoL及应用。
飞桨PaddlePaddle·2022-08-02 12:21

飞桨创意赛火热进行中，总有一款AI时代Chatbot适合你

实现过程：本项目借助百度基于知识增强的持续学习语义理解框架ERNIE，使
飞桨PaddlePaddle·2022-07-10 07:19

AI创造营作品路演来袭，助力你心中的NO.1！

对话故事生成创造个人无限世界穿越了穿越了，ERNIE+GPT2让主神阿巴带你冒险！实现过程：借助百度基于知识增强的持续学习语义理解框架ERNIE，使用Paddl
飞桨PaddlePaddle·2022-07-10 07:19

【BERT类预训练模型整理】

模型的局限性2.RoBERTa的相关内容2.1RoBERTa的预训练技术2.1.1动态掩码（DynamicMasking）2.1.2取消NSP预训练任务2.1.3大批次（LargerBatchSize）3.ERNIE3.1ERNIE
帅奇奇的博客·2022-07-08 07:50

文本分类(三) | (1) 项目介绍(基于预训练语言模型)

完整项目文本分类(三)专栏主要是对Github优秀文本分类项目的解析，该文本分类项目，主要基于预训练语言模型，包括bert、bert+CNN/RNN/RCNN/DPCNN、ERNIE等，使用PyTorch
CoreJT·2022-06-13 07:58

“四大模型”革新NLP技术应用，揭秘百度文心ERNIE最新开源预训练模型

点击左上方蓝字关注我们在5月20日结束的2021深度学习开发者峰会WAVESUMMIT上，百度文心ERNIE开源了四大预训练模型。本文对这四大开源预训练模型进行了详细的技术解读。
飞桨PaddlePaddle·2022-06-09 07:32

全球首个知识增强千亿大模型鹏城-百度·文心发布

12月8日，鹏城实验室与百度联合召开发布会，正式发布双方共同研发的全球首个知识增强千亿大模型——鹏城-百度·文心（模型版本号：ERNIE3.0Titan）。
飞桨PaddlePaddle·2022-06-09 07:32

人工智能超大规模预训练模型浅谈

在算法层面，超大规模预训练模型成为近两年最受关注的热点之一，不断刷新各个记录，其中百度ERNIE3.0模型在自然语言理解任务的综合评分（GLUE）已达90%以上，高居世界第一。01人工智能发展历
·2022-05-12 12:21

人工智能超大规模预训练模型浅谈

在算法层面，超大规模预训练模型成为近两年最受关注的热点之一，不断刷新各个记录，其中百度ERNIE3.0模型在自然语言理解任务的综合评分（GLUE）已达90%以上，高居世界第一。01.人工智能发展
·2022-05-10 17:27

3月产品升级观察站

>>零门槛AI开发平台EasyDL基于文心大模型Ernie的「评论观点抽取」功能：多维度提取关键信息，以更少数据实现更好效果百度智能云低代码平台EasyDLNLP定制化「
百度智能云·2022-05-03 07:22

一图带你了解完飞桨架构、工具及其所有组件

PaddleLite:Paddle.jsPaddeSlim:X2Paddle:3)其他全研发流程的辅助工具AutoDL:VisualDL:PaddleFL:PaddleX:2.模型资源PaddleHub:ERNIE
翼达口香糖·2022-03-31 19:15

CoLAKE: 如何实现非结构性语言和结构性知识表征的同步训练

ContextualizedLanguageandKnowledgeEmbedding解读01背景与动机随着预训练模型在NLP领域各大任务大放异彩，一系列研究都致力于将外部知识融入大规模预训练模型，比如ERNIE
NLP论文解读·2022-03-09 19:00

BERT源码分析（PART I）

写在前面本文首发于公众号：[email protected]最近在看paddle相关，于是就打算仔细过一遍百度ERNIE的源码。
kaiyuan_nlp·2022-02-21 08:55

一文读懂最强中文NLP预训练模型ERNIE

基于飞桨开源的持续学习的语义理解框架ERNIE2.0，及基于此框架的ERNIE2.0预训练模型，在共计16个中英文任务上超越了BERT和XLNet,取得了SOTA效果。
stay_foolish12·2022-02-19 07:40

大模型应用新范式：统一特征表示优化（UFO）

在刚刚过去的2021年，百度文心大模型中的ERNIE3.0、微软和英伟达联合推出的MT-NLP以及谷歌的SwitchTransformer等等，参数量可达千亿甚至万亿。
·2022-02-19 02:30

大模型应用新范式：统一特征表示优化（UFO）

在刚刚过去的2021年，百度文心大模型中的ERNIE3.0、微软和英伟达联合推出的MT-NLP以及谷歌的SwitchTransformer等等，参数量可达千亿甚至万亿。
·2022-02-17 18:32

通过改造BERT实现ERNIE并比较两者差异

作者：WipenHan由于BERT与ERNIE的预训练数据存在非常大的差异，因而无法知晓ERNIE在5个NLP任务上得到的提升是源于数据还是模型。
wipen·2022-02-15 05:17

全球最大规模中文跨模态生成模型文心ERNIE-ViLG来了！

前不久，百度产业级知识增强大模型“文心”全景图亮相，近日，其中的跨模态生成模型ERNIE-ViLG在百度文心官网开放体验入口，并放出了论文。
·2022-01-10 20:49

ACL 2021 | 百度NLP开源语言与视觉一体的统一模态预训练方法，登顶各类榜单

百度在2021年深度学习开发者峰会WAVESUMMIT上开源了语言与视觉一体的预训练模型ERNIE-UNIMO，其核心方法UNIMO已经被NLP顶级会议ACL2
·2021-08-16 17:21

刷新50多个NLP任务基准，并登顶SuperGLUE全球榜首，百度ERNIE 3.0知识增强大模型显威力

近日，百度ERNIE升级到3.0，重磅发布知识增强的百亿参数大模型。该模型除了从海量文本数据中学习词汇、结构、语义等知识外，还从大规模知识图谱中学习。
·2021-07-27 19:06

清华ERNIE模型

2019年清华在ACL提出ERNIE模型，同年，百度也提出一个ERNIE模型。本篇论文主要针对的是清华的模型。
Johann_Liang·2021-04-29 07:38

序列建模（八）：GPT、BERT、GPT-2、ALBERT -- Transformer在预训练语言模型领域的应用

基础知识link][BERT参考博客link][GPT-2参考博客link][GPT与GPT-2参考博客link][Bert参考博客link][GPT-1参考博客link][ALBERT参考博客link][ERNIE
emm_simon·2021-04-19 20:05

登顶GLUE榜单的文心又开课了，一站式教学搞懂信息抽取

百度自研的语义理解技术与平台文心（ERNIE）以90.9的分数再登榜首，领先微软DeBERTa/TuringNLRv4，谷歌T5以及阿里巴巴、华为等研发的其他同类别技术。
·2021-03-25 22:39

提速1000倍，预测延迟少于1ms，百度飞桨发布基于ERNIE的语义理解开发套件

11月5日，在『WAVESummit+』2019深度学习开发者秋季峰会上，百度对外发布基于ERNIE的语义理解开发套件，旨在为企业级开发者提供更领先、高效、易用的ERNIE应用服务，全面释放ERNIE的工业化价值
·2021-03-23 01:39

探寻文本智能未来式，文心重磅升级文本处理功能

近日，百度语义理解平台文心（ERNIE）迎来重磅升级。
·2021-02-23 15:47

使用飞桨模型生成情话情诗

name=ernie_gen_lover_words&en_category=TextGenerationERNIE-GEN是面向生成任务的预训练-微调框架，首次在预训练阶段加入span-by-span
乐亦亦乐·2021-02-17 13:03

多模态预训练模型

目录前言Vision-languageTasksV+LJointPre-training第一个问题：第二个问题;第三个问题：第四个问题当前已有的一些视觉语言模型对比ERNIE-VIL思路来源下面来看看改论文设计的几个
weixin_42001089·2021-01-29 20:57

预训练语言模型

『预训练语言模型分类』单向特征、自回归模型（单向模型）：ELMO/ULMFiT/SiATL/GPT1.0/GPT2.0双向特征、自编码模型（BERT系列模型）：BERT/ERNIE/SpanBERT/RoBERTa
DecafTea·2021-01-22 10:28

百度发布预训练模型ERNIE-M，同时掌握96门语言，取得多项世界突破

阅读原文：https://mp.weixin.qq.com/s/wYApB6Y2h9VChYxBZgrgwA2021年伊始，百度在自然语言处理领域取得最新突破，发布多语言预训练模型ERNIE-M。
百度-NLP·2021-01-14 11:29

语言三元组快速转制_[预训练语言模型专题] ENRIE(Tsinghua)：知识图谱与BERT相结合，为语言模型赋能助力...

快速传送门1-4:[萌芽时代]、[风起云涌]、[文本分类通用技巧]、[GPT家族]5-8:[BERT来临]、[浅析BERT代码]、[ERNIE合集]、[MT-DNN(KD)]9-12:[Transformer
范米索·2021-01-07 14:55

[论文阅读 --- Bert + Knowledge] 融入知识图谱的预训练模型总结

一.模型汇总1.ERNIE:EnhancedLanguageRepresentationwithInformativeEntities2.K-BERT:EnablingLanguageRepresentationwithKnowledgeGraph3
smilesooo·2020-12-28 13:46

huggingface实操_百度NLP预训练模型ERNIE2.0最强实操课程来袭！【附教程】

2019年3月，百度正式发布NLP模型ERNIE，其在中文任务中全面超越BERT一度引发业界广泛关注和探讨。
weixin_39896617·2020-12-22 18:33

bert 中文 代码 谷歌_后 BERT 时代的那些 NLP 预训练模型

本文介绍对于BERT的Pretraining过程进行改进的几篇文章，包括Pre-TrainingwithWholeWordMaskingforChineseBERT、ERNIE:EnhancedRepresentationthroughKnowledgeIntegration
weixin_39795845·2020-12-03 21:05

探寻文本智能未来式，文心重磅升级文本处理功能

近日，百度语义理解平台文心（ERNIE）迎来重磅升级。
百度大脑·2020-11-13 11:52

BERT meet Knowledge Graph：预训练模型与知识图谱相结合的研究进展

ERNIE:EnhancedL
zenRRan·2020-11-01 23:36

智能文本处理利器文心（ERNIE），助您高效定制NLP模型！

近日，百度语义理解平台文心（ERNIE）迎来重磅升级。
百度-NLP·2020-10-23 16:23

百度世界2020再曝语义理解领域新进展：文心ERNIE全景图亮相

语言与知识技术的相关研究进展，影响着人工智能理解世界的方式。9月15日，一年一度的科技圈盛会百度世界2020大会于线上召开，总台央视主持人康辉，与百度创始人、董事长兼首席执行官(CEO)李彦宏的“虚拟人”在千万观众面前亮相，不仅动作自然、栩栩如生，更与真人进行多轮流畅交互，引发网友惊叹，满足了人们对未来时代“智能管家”的许多想象。而为虚拟人理解世界、理解语言起到关键作用的，正是语言与知识技术。在当
百度-NLP·2020-09-27 11:12

AI时代的文本智能化利器：百度语义理解技术与平台文心ERNIE

9月15日，百度世界2020召开，作为“AI新型基础设施”百度大脑6.0的重要组成部分，百度语义理解技术与平台文心（ERNIE)在大会上的发布吸引了大量NLP开发者的目光，尤其基于多流机制的预训练语言生成技术
百度-NLP·2020-09-27 11:06

NLP预训练模型4 -- 训练方法优化（RoBERTa、T5）

系列文章，请多关注NLP预训练模型1–综述NLP预训练模型2–BERT详解和源码分析NLP预训练模型3–预训练任务优化（ERNIE、SpanBERT）NLP预训练模型4–训练方法优化（RoBERTa、T5
谢杨易·2020-09-14 01:10

FLAT：中文NER屠榜之作！

如上图所示，在MSRA-NER任务中，FLAT+BERT登顶榜首；而单独的FLAT（1层TransFormer）也超越了预训练模型ERNIE。相比
夕小瑶·2020-09-11 18:24

预训练模型（5）---- SpanBERT&RoBERTa&ERNIE2

比较小众的预训练模型1.SpanBERT2.RoBERTa3.ERNIE2本文主要介绍一些比较小众的预训练模型，这些模型不像Bert、XLNet等那么有影响力，都是在这些模型的基础上做的相关改进工作，但是这些工作可以引导我们学会如何优化模型
小小鸟要高飞·2020-09-10 20:01

AAAI 2020论文分享：持续学习语义理解框架ERNIE 2.0

NLP预训练领域入选论文***《ERNIE2.0:AContinualPre-TrainingFrameworkforLanguageUnderstanding》***被选为Oral展示。
百度-NLP·2020-09-10 16:47

分享：ERNIE转化为Pytorch版的预训练模型

来源：https://github.com/nghuyong/ERNIE-Pytorch因为是在googledrive上，不方便下载，分享如下：ERNIE转换到huggingface的格式：ERNIE1.0BaseforChinese
小皮肚鼓嘟嘟·2020-08-26 12:31

EasyDL全新升级，文心（ERNIE）3项能力助力快速定制企业级NLP模型

文心（ERNIE）是依托百度深度学习平台飞桨打造的语义理解技术与平台，集先进的预训练模型、全面的NLP算法集、端到端开发套件和平台化服务于一体，为企业和开发者提供一整套NLP定制与应用能力。在
百度大脑·2020-08-24 17:55

基于BERT微调与知识库的问答系统

一种可行的问答系统算法流程图如下：二、问答系统技术BERT系列类模型微调：BERT、wwmBERT、ALBERT、ERNIE均可。序列标注之实体识别算法：LSTM、BERT系列抽取特征均可
渔舟唱晚兮·2020-08-24 02:13

公开课视频（七）：最强中文NLP预训练模型艾尼ERNIE官方揭秘

“最近刚好在用ERNIE写毕业论文”“感觉还挺厉害的”“为什么叫ERNIE啊，这名字有什么深意吗？”“我想让艾尼帮我写作业”看了上面火热的讨论，你一定很好奇“艾尼”、“ERNIE”到底是个啥？
飞桨PaddlePaddle·2020-08-23 23:58

BERT-wwm、RoBERTa-wwm、SpanBERT、ERNIE2

BERT-wwm、RoBERTa、SpanBERT、ERNIE2BERT-wwm/RoBERTa-wwmwwm是WholeWordMasking（对全词进行Mask）。
要努力的鱼～·2020-08-23 08:08

AAAI 2020论文分享：持续学习语义理解框架ERNIE 2.0

NLP预训练领域入选论文《ERNIE2.0:AContinualPre-TrainingFrameworkforLanguageUnderstanding》被选为Oral展示。
百度NLP·2020-08-22 14:14
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他