n-gram

CNN

窗口大小其实就是识别n-gram信息。池化层一般都是对每个Filter向量取Max值。这个特征跟出现位置无关，不论出现在哪里，都取最强那个。有多少个Filter就
dreampai·2023-08-21 02:25

论文《Logram:使用n-Gram词典的高效日志解析》翻译

论文《Logram：EfficientLogParsingUsingn-GramDictionaries》翻译Logram：EfficientLogParsingUsingn-GramDictionaries翻译
Programmer Monkey·2023-08-20 17:42

Day 4 语言模型

语言模型一段语言模型可以看成一个离散时间序列N-gram假设序列,,...中的每个词是依次生成的，我们有Formula==n元语法序列长度增加，计算和存储多个词共同出现的概率的复杂度会呈指数级增加。
Crystality·2023-08-18 13:29

经典的语言模型：N-gram

语言模型一个语言模型通常构建为字符串的S的概率分布P(s)。比如，每个人100句话中平均大约有一句“你好”，那么“你好”这句话的概率大致为，像“野猪会做饭烧菜”，基本没人会说，则可以认为其概率为0。语言模型中的句子和语法无关，只和出现的可能性相关。假设构成一个句子。其概率计算公式可以表示为：,随着句子的增长，计算难度是呈指数型增长的。一个比较实际的做法是只考虑当前词只和前n个词相关，其余无关。这种
一心一意弄算法·2023-08-14 03:51

perplexity 衡量指标_求通俗解释NLP里的perplexity是什么？

润风：困惑度(perplexity)的基本概念及多种模型下的计算(N-gram,主题模型,神经网络)zhuanl
weixin_39805998·2023-08-13 22:55

一文详解自然语言处理两大任务与代码实战：NLU与NLG

目录1.自然语言处理定义NLP的定义和重要性NLP的主要挑战2.基础模型语言模型统计语言模型n-gram模型连续词袋模型3.基础概念词向量Word2VecSkip-GramGloVeFastText1.
TechLead KrisChang·2023-08-11 19:16

学习笔记-n-gram中的平滑方法

在n-gram语言模型中，一些词语的组合没有在语料中出现过，所以其统计概率会为0，但是这是不合理的。所以需要使用平滑方式调整概率值。
Pluto_wl·2023-08-06 20:15

NLP - ngram - N元语言模型 python 实现

NLP-ngram-N元语言模型python实现一、说明N-GramN元语言模型：N-Gram（有时也称为N元模型）是自然语言处理中一个非常重要的概念，通常在NLP中，人们基于一定的语料库，可以利用N-Gram
草青工作室·2023-08-05 11:52

深入NLTK：Python自然语言处理库高级教程

在前面的初级和中级教程中，我们了解了NLTK库中的基本和进阶功能，如词干提取、词形还原、n-gram模型和词云的绘制等。
青春不朽512·2023-08-05 10:10

掌握NLTK：Python自然语言处理库中级教程

在本篇中级教程中，我们将进一步探索NLTK的更多功能，包括词干提取、词形还原、n-gram模型以及词云的绘制。一、词干提取词干提取是一种将词语简化为其基本形式或词干的过程。
青春不朽512·2023-08-05 07:48

AI大语音（十）——N-gram语言模型（深度解析）

本文来自公众号“AI大道理”。这里既有AI，又有生活大道理，无数渺小的思考填满了一生。上一专题搭建了一套GMM-HMM系统，来识别连续0123456789的英文语音。但若不是仅针对数字，而是所有普通词汇，可能达到十几万个词，解码过程将非常复杂，识别结果组合太多，识别结果不会理想。因此只有声学模型是完全不够的，需要引入语言模型来约束识别结果。让“今天天气很好”的概率高于“今天天汽很好”的概率，得到声
AI大道理·2023-07-29 01:57

【NLP入门教程】十五、FastText保姆教程

1.FastText简介FastText是一种基于词袋模型和n-gram特征的文本分类算法。相比于传统的词袋模型，Fas
晨星同行·2023-07-28 19:37

N-Gram+最短路径分词

仅仅是演示了一个从训练模型到应用的完整过程简介关于这种分词方法，网上的相关文章已经是相当相当少了，最出名的就是NLPIR分词中采用了这种方法（貌似最早也是这个分词工具的作者提出的）相关文章自然语言处理中的N-Gram
matrices·2023-07-28 08:42

BERT预训练模型

bert之前的语言模型n-gram语言模型：根据前面n个词预测当前词，它的缺点是，一般只能取1-2，n越大计算成本越高，这就使得它关注的信息是非常局限的。
不会念经的木鱼仔·2023-07-28 00:59

BLUE 评价指标

根据n-gram可以划分为多个评价指标。常见的有BLUE-1、BLUE-2、BLUE-3、BLUE-4四种，其中的数字表示连续单词的个数。
孤舟独钓寒江雪·2023-07-22 10:11

NLP | 生成任务指标: BLEU, ROUGE

文章目录1、BLEU：2、ROUGE：1、BLEU：BLEU思想（越大越好）：比较候选译文和参考译文里的n-gram的重合程度，重合程度越高就认为译文质量越高。
#苦行僧·2023-07-19 23:47

[nlp] 自动文摘评测 Rouge-1、Rouge-2、Rouge-L、Rouge-S

ROUGE-N：系统摘要和参考摘要之间的n-gram[2]重叠。
心心喵·2023-07-19 21:09

人工智能自然语言处理：N-gram和TF-IDF模型详解

人工智能自然语言处理：N-gram和TF-IDF模型详解1.N-gram模型N-Gram是一种基于统计语言模型的算法。
汀、人工智能·2023-07-16 22:43

循环神经网络和自然语言处理介绍||文本情感分类|| 循环神经网络||循环神经网络实现文本情感分类||Pytorch中的序列化容器

循环神经网络和自然语言处理介绍目标知道token和tokenization知道N-gram的概念和作用知道文本向量化表示的方法1.文本的tokenization1.1概念和工具的介绍tokenization
Jason_Honey2·2023-07-16 19:49

2020-3-5 深度学习笔记12 - 深度学习应用 4（其他应用-推荐系统 / 知识表示、推理和回答）

大规模深度学习）2020-3-1深度学习笔记12-深度学习应用2（计算机视觉，语音识别）2020-3-2深度学习笔记12-深度学习应用3（自然语言处理NLP-n-gram/神经语言模型NNLM/高维输出/结合n-gram
没人不认识我·2023-07-16 12:31

爬虫中的网页去重最适合的算法---simhash算法

Simhash算法的基本思想是将字符串分解成一些基本的特征，如字符、单词、n-gram等，然后对每个特征计算一个hash值，并将这些hash值合并成一个整体hash值。
lovoo·2023-07-15 19:01

文本向量化学习笔记

离散表示方式包括one-hot，tfidf，N-gram以及共现矩阵等方式。分布式连续表示有word2vec和fasttext等方式。
仰望星空的小狗·2023-07-15 12:47

语言模型笔记

参考n-gram：https://blog.csdn.net/songbinxu/article/details/80209197（n-gram、NNLM、RNNLM、word2vec）本篇讲述语言模型及重要的几个概念
愿better·2023-06-23 18:18

ChatGPT和其他自然语言处理模型有什么不同之处？

ChatGPT是一种基于变压器神经网络的自然语言生成模型，与传统的语言模型和其他自然语言处理模型相比，具有以下几个显著的不同之处：1.能够生成连贯、长文本传统的语言模型（如N-gram模型）通常只能生成短文本
心似浮云️·2023-06-21 07:17

NLP基础知识（语法语义、LDA、N-gram、词嵌入）

文章目录本节课大纲Hyper-simplifiedlinguisticsTermspotting+handlingnegation,uncertaintyMLtoexpandtermspre-NNMLtoidentifyentitiesandrelationsLatentDirichletAllocation(LDA)StatisticalModelsofLanguage:Zipf'slawvec
丸丸丸子w·2023-06-18 00:56

R语言进行文本挖掘

整洁的数据整洁的数据应该是这样的每一行都是一次观测每一列都是一个变量对于整洁的文本数据，储存在每行中的数据通常是单个单词，但也可以是n-gram，句子或段落。
Liam_ml·2023-06-17 18:19

CNN 文本原理

首先需要理解N-gramhttps://zhuanlan.zhihu.com/p/32829048对于在NLP中N-gram的理解，一元，二元，三元gram大多数NLP任务的输入不是图像像素，而是以矩阵表示的句子或文档
James0824·2023-06-17 09:15

【文本生成评价指标】 BLEU原理及代码示例py

比较候选译文和参考译文里的n-gram的重合程度。多用于翻译
zz_Lambda·2023-06-17 01:08

N-Gram语言模型工具kenlm的详细安装教程

【本配置过程基于Linux系统】下载源代码：wget-O-https://kheafield.com/code/kenlm.tar.gz|tarxz编译：makdirkenlm/buildcdkenlm/buildcmake..&&make-j4发现报错：系统中没有cmake，按照错误提示，执行以下命令：sudoapt-getinstallcmake安装完成后，再次cmake：cmake..又报错
尚拙谨言·2023-06-16 13:50

深度学习应用篇-自然语言处理[10]：N-Gram、SimCSE介绍，更多技术：数据增强、智能标注、多分类算法、文本信息抽取、多模态信息抽取、模型压缩算法等

【深度学习入门到进阶】必看系列，含激活函数、优化策略、损失函数、模型调优、归一化算法、卷积模型、序列模型、预训练模型、对抗神经网络等专栏详细介绍：【深度学习入门到进阶】必看系列，含激活函数、优化策略、损失函数、模型调优、归一化算法、卷积模型、序列模型、预训练模型、对抗神经网络等本专栏主要方便入门同学快速掌握相关知识。后续会持续把深度学习涉及知识原理分析给大家，让大家在项目实操的同时也能知识储备，知
汀、人工智能·2023-06-12 14:18

深度学习应用篇-自然语言处理[10]：N-Gram、SimCSE介绍，更多技术：智能标注、多分类算法、文本信息抽取等

深度学习应用篇-自然语言处理[10]：N-Gram、SimCSE介绍，更多技术：数据增强、智能标注、多分类算法、文本信息抽取、多模态信息抽取、模型压缩算法等1.N-GramN-Gram是一种基于统计语言模型的算法
·2023-06-12 11:50

深度学习应用篇-自然语言处理[10]：N-Gram、SimCSE介绍，更多技术：智能标注、多分类算法、文本信息抽取等

深度学习应用篇-自然语言处理[10]：N-Gram、SimCSE介绍，更多技术：数据增强、智能标注、多分类算法、文本信息抽取、多模态信息抽取、模型压缩算法等1.N-GramN-Gram是一种基于统计语言模型的算法
·2023-06-12 11:47

NLP（2）N-gram language Model （缺了一些平滑的方式介绍）

文章目录N-gramLanguageModelTrigramExample存在的问题smoothingLaplacian（add-one）smoothing案例1案例2Add-ksmoothingAbsoluteDiscounting案例Interpolation在自然语言处理（NLP）中，语言模型（LanguageModels）是用来预测文本序列中下一个单词或者字符的概率分布的模型。语言模型的主
暖仔会飞·2023-06-09 20:22

自然语言处理: N-Gram实战

自然语言处理:第一章N-Gram一.理论定义:语言模型在wiki的定义是统计式的语言模型是一个几率分布，给定一个长度为m的字词所组成的字串W1,W2，···，Wn，派几率的字符串P(S)=P(W1,W2
曼城周杰伦·2023-06-09 03:43

MySql中的Full Text Search全文索引优化

目录开篇一个简单的DEMO天下没有免费的午餐无索引使用B树索引引入反向索引在默认解析器中使用反向索引在n-gram解析器中使用反向索引InnoDB反向索引性能下降备选方案开篇在我们的生产环境中,有一个模糊检索的文档框
·2023-06-06 21:33

N-Gram 采样与 Session 数据获取 For EGES

目录一.引言二.订单数据预处理1.数据样例2.订单数据处理3.用户Session构建三.构造sku_id游走序列1.获取完整SessionList2.统计sku_id转移词频3.构建sku_id图4.游走构造sku序列四.商品侧信息预处理1.读取商品信息2.LeftJoin匹配侧信息3.Id2Index构建五.基于Ngram与NegativeSample的样本生成1.自定义Ngram样本生成2.k
BIT_666·2023-04-19 22:10

【Chatgpt4 教学】 NLP（自然语言处理）第十一课 n-gram模型原理

王老师带我成为救世主》（1）---------------------------------------------------------------------------------------我：简要介绍n-gram
醉醉大笨牛·2023-04-18 23:35

Prompt之文本生成详解教程

prompt在生成方面的应用从两个方面进行介绍：评估手段具体任务评估手段生成任务的评估手段主要分为四种类型：1).基于N-gram匹配2).基于编辑距离3).基于词向量4).基于可学习方式。
奇奇.,·2023-04-17 17:48

Rouge | 自动文摘及机器翻译评价指标

rouge-N指N-gram的个数在中文中计算时，需要用空格将每个字分开（如同英
wenweny2020·2023-04-14 07:13

Word2vec

预备知识：LR、贝叶斯公式、赫夫曼编码、统计语言模型、n-gram模型、神经概率语言模型、词向量、词袋模型、softmax、负采样，可以参考word2vec中的原理Word2vec将词映射到K维向量空间
rssivy·2023-04-14 00:39

区块链文章总结

对于区块链智能合约安全的内容总结对于近几年对于该问题的解决方法有以下的三种解决方式，当然不仅仅局限于这三种方法；1.把源代码当成一个文本内容进行输入利用(NLP)的技术模型（N-gram以及bag-of-words
weixin_47988292·2023-04-12 01:04

【精通特征工程】学习笔记（二）

2.5&D3章&P33-51页3、文本数据:扁平化、过滤和分块3.1元素袋:将自然文本转换为扁平向量3.1.1词袋一个特征就是一个单词，一个特征向量由这个单词在每篇文档中出现的次数组成3.1.2n元词袋n-gram
小小孩儿的碎碎念·2023-04-05 21:17

文本特征提取

{"我":1,"要":1,"从":1,"文本":1,"提取":1,"如下":1,"特征":1}N-gram分析：将文本切分成N个
哈都婆·2023-04-04 15:24

这些年，NLP常见的预训练模型剖析

传统的词向量有one-hot（杜热编码）、词袋模型（TF_IDF）、N-Gram、Word2Vec、Glove等，其中word2vec和Glove是属于wordembedding。one
樱缘之梦·2023-04-01 23:13

那些年的面试

给一段话，怎么判断是乱码还是正常输入，提示n-gram语言模型12-17百度面试，百度智能云AI应用部，NLP算法工程师一面cdssm原理、和dssm区别逻辑回归推导决策树、剪枝过拟合的起因及解决方法，
你_是谁家的美啊·2023-03-30 02:57

2020-3-2 深度学习笔记12 - 深度学习应用 3（自然语言处理NLP - n-gram / 神经语言模型NNLM / 高维输出 / 结合 n-gram 和神经语言模型 / 神经机器翻译）

第十二章应用中文官网英文原版2020-2-29深度学习笔记12-深度学习应用1（大规模深度学习）2020-3-1深度学习笔记12-深度学习应用2（计算机视觉，语音识别）自然语言处理NLP统计语言建模的目标是学习语言中单词序列的联合概率函数。自然语言处理让计算机能够使用人类语言，例如英语或法语。为了让简单的程序能够高效明确地解析，计算机程序通常读取和发出特殊化的语言。而自然的语言通常是模糊的，并且可
没人不认识我·2023-03-27 07:23

语言模型（一）—— 统计语言模型n-gram语言模型

作为NLP的基础知识，语言模型可能是我们最早接触的知识点之一了，那么语言模型到底是什么呢？在看过一些文章之后我最后形成了我自己的理解：语言模型就是计算词序列（可以是短语、句子、段落）概率分布的一种模型，它的输入是文本句子，输出是该句子的概率，这个概率表明了这句话的合理程度，即这句话符合人类语言规则的程度。或者我们可以这么理解：传统的语言模型是基于词袋模型（Bag-of-Words）和one-hot
知了爱啃代码·2023-03-27 07:19

NLP中的n-gram模型

NLP中的n-gram模型1.什么是语言模型2.n-gram模型2.1什么是n-gram模型2.2n-gram评价语句是否合理2.3n-gram模型小结参考：1.什么是语言模型什么是语言模型？
hzq201435·2023-03-27 07:10

[VLDB2019]DLM:微信大规模分布式n-gram语言模型系统

本文是对原VLDB2019论文的简要翻译摘要n-gram语言模型广泛用于语言处理，例如自动语音识别(ASR)。它可以对从发生器（例如声学模型）产生的候选单词序列进行排序。
OpenIM·2023-03-27 07:09

自然语言处理（二）： N-gram Language Models

目录1.Probabilities:JointtoConditional概率：从联合到条件1.1TheMarkovAssumption马尔可夫假设1.2MaximumLikelihoodEstimation最大似然估计1.3Book-endingSequences书籍结尾序列1.4Trigramexample1.5SeveralProblems2.Smoothing2.1Laplacian(Add
小羊和小何·2023-03-27 07:08
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他