gram

【论文笔记】PTE：预测性文本嵌入

与无监督的文本嵌入方法（包括学习文本的一般语义表示的Skip-gram和段落向量）相比，我们的目标是学习为给定文本分类任务优化的文本表示。换句话说，我们预期文本嵌
飞龙·2019-07-15 00:00

BPE提取subword

BPE全称BytePairEncoding，通过不断迭代分词，每次按照最大出现频率将某一种n-gram子串组合在一起。随着迭代的推进，就像滚雪球一样，将subword的组成字符们聚在一起。
sunrise_ccx·2019-07-14 23:50

从n-gram到Bert聊一聊词向量：Word2Vec

Word2Vec模型中有CBOW和Skip-Gram两种模式：CBOW（多到一）是给定上下文来预测输入单词，训练方法为负采样Skip-Gram（一到多）是给定输入单词来预测上下文，训练方法为哈夫曼树训练步骤
姬香·2019-07-14 00:03

论文笔记：word2vec Parameter Learning Explained

整篇论文可以分为三个部分吧，分别是：CBOW模型以及Skip-Gram模型在单输入以及多输入的情况下参数更新过程（这是没有使用优化计算技巧的情况）两种优化计算的方式：Hierar
MirrorN·2019-07-12 22:19

ElasticSearch 6.2.2集群安装

准备的集群机器4台：8corecpu,8GRAM,1T机械硬盘，ip地址为：192.168.20.111192.168.20.112192.168.20.113192.168.20.114安装JavaES
阿懒土灵·2019-07-12 12:20

python sklearn CountVectorizer的使用及相关说明

初步想法是利用n-gram方法，因此查询到了python的sklearn中有一个CountVectorizer方法可以使用，在这里介绍一下这个函数的使用方法，以及其输出的相关含义。
Clannad_niu·2019-07-09 18:49

python sklearn CountVectorizer的使用及相关说明

初步想法是利用n-gram方法，因此查询到了python的sklearn中有一个CountVectorizer方法可以使用，在这里介绍一下这个函数的使用方法，以及其输出的相关含义。
Clannad_niu·2019-07-09 18:49

Neural-style-tf

文章目录PretrainedVGG-19ModelNeuralStyle内容损失风格损失定义风格Gram矩阵计算总损失总结PretrainedVGG-19ModelVGG在2014年的ILSVRClocalizationandclassification
梦星魂24·2019-07-04 17:46

skip-gram model

https://www.kdnuggets.com/2018/04/implementing-deep-learning-methods-feature-engineering-text-data-skip-gram.htmlDeepLearning
caiexu·2019-07-03 10:30

新词发现算法

新词发现基于统计的经典算法（无监督学习）：基于已有的大量语料，枚举可能所有新词（原始字的顺序组合，限制长度为n-gram），然后计算一些统计指标（主要是凝固度、自由度）进行过滤，尽量准确地筛选出潜在的新词
爱学习的段哥哥·2019-06-30 19:51

BERT学习过程记录1：Word2vec

目录1.什么是Word2vec2.Skip-gram和CBOW模型2.1.Skip-gram和CBOW的简单情形2.2.Skip-gram更一般的情形2.3.CBOW更一般的情形资料来源自知乎，仅作摘录之用
越丘·2019-06-27 15:50

Macbook Air 10.5.3 升级和安装Win7过程记录

同事一台MacBookAir（13英寸，2008年末）的笔记本，128GSSD，2GRAM，intelduo的CPU，想装个Win10,用来写文档。
higer2008·2019-06-25 13:46

tensorflow实现lstm的demo

但是ngram模型有一个缺点，就是通常我们使用的是2-gram或者3-gram，那么对于大于3个字或词以上的信息就不能捕获到了，但是循环神经网络可以将任意长度的信息都捕获到，这也是
AmazingZXY·2019-06-24 23:25

GloVe模型: Global Vectors for Word Representation

局部上下文窗口的方法，：比如skip-gram但是这两种方法都有缺点：全局矩阵分解的方法虽然利用了全局统计信息，但是他会过度重视共现词频高的单词对，然而这些词并没有多大的语义联系。
大白菜—NLP·2019-06-24 18:20

Word2Vec训练过程中的加速问题

Word2Vec采用的模型包含了连续词袋模型ContinuousBagofWords（简称：CBOW）和Skip-Gram模型，其中CBOW是从原始语句（比如：中国的首都
沙漠之狐MSFollower·2019-06-23 22:29

公告丨Dex.top(大力士)上线Opengram (GRAM)

尊敬的用户：Dex.top即将开放Opengram(GRAM)的充提业务，并开放GRAM/ETH交易对，具体时间如下：1.开放充提时间：5月8日16：00（GMT+8）；2.开放交易时间：5月10日16
Dextop·2019-06-21 20:40

公告丨Dex.top(大力士)上线Opengram (GRAM)

尊敬的用户：Dex.top即将开放Opengram(GRAM)的充提业务，并开放GRAM/ETH交易对，具体时间如下：1.开放充提时间：5月8日16：00（GMT+8）；2.开放交易时间：5月10日16
Dextop·2019-06-21 20:40

中文纠错之N-gram

中文纠错之N-gram1.N-gram介绍2.公式3.Bi-gram例子4.评估模型优劣5.参考博文1.N-gram介绍N-gram是基于一个假设：第n个词出现与前n-1个词相关，而与其他任何词不相关。
越丘·2019-06-19 15:01

高斯单位制（其一）

厘米-克-秒制（CGS制）centimeter-gram-secondsystem以下都简称CGS制。在力学单位上，CGS是一致的，但是在电学单位上有几种变种。
0382·2019-06-18 20:07

NLP学习记录4——n-gram模型（待整理）

NLP学习记录4——n-gram模型主要参考博客自然语言处理之seq2seq模型原始论文learningphaserepresentationsusingRNNEncoder-decoderforstatisticalmachinetranslationSequencetosequencelearningwithneuralnetworks
青崖间·2019-06-18 11:29

word2vec原理(一) CBOW与Skip-Gram模型基础

转载自：刘建平Pinard博客园地址：https://www.cnblogs.com/pinard/p/7160330.htmlword2vec是google在2013年推出的一个NLP工具，它的特点是将所有的词向量化，这样词与词之间就可以定量的去度量他们之间的关系，挖掘词之间的联系。虽然源码是开源的，但是谷歌的代码库国内无法访问，因此本文的讲解word2vec原理以Github上的word2ve
hufei_neo·2019-06-17 14:12

语言模型：n-gram语言模型和神经网络语言模型

语言模型n-gram语言模型神经网络语言模型（NNLM）n-gram语言模型什么是n-gram语言模型：n-gram语言模型是基于统计建立的，可以由此计算概率的模型。
CyanSai·2019-06-16 16:07

HanLP-分类模块的分词器介绍

包括：BigramTokenizer这是一个2gram分词器，也就是
adnb34g·2019-06-14 10:00

HanLP-分类模块的分词器介绍

包括：BigramTokenizer这是一个2gram分词器，也就是把连续的
adnb34g·2019-06-14 10:58

格拉姆矩阵(Gram Matrix)

1、Gram矩阵的定义n维欧式空间中任意k个向量之间两两的内积所组成的矩阵，称为这k个向量的格拉姆矩阵(Grammatrix)根据定义可以看到，每个Gram矩阵背后都有一组向量，Gram矩阵就是由这一组向量两两内积得到的
hellocsz·2019-06-11 23:08

cbow与skip-gram对比

在cbow方法中，是用周围词预测中心词，从而利用中心词的预测结果情况，使用GradientDesent方法，不断的去调整周围词的向量。当训练完成之后，每个词都会作为中心词，把周围词的词向量进行了调整，这样也就获得了整个文本里面所有词的词向量。要注意的是，cbow的对周围词的调整是统一的：求出的gradient的值会同样的作用到每个周围词的词向量当中去。可以看到，cbow预测行为的次数跟整个文本的词
随机漫步_·2019-06-11 14:14

线性代数(14)——正交性、标准正交基和投影

正交性、标准正交基和投影正交基与标准正交基一维投影高维投影和Gram-Schmidt过程三维空间四维及以上空间实现Gram-Schmidt过程相关话题标准正交基的性质正交基与标准正交基一个nnn维空间中任何一组线性无关的向量
Jakob_Hu·2019-06-04 21:20

cs224n学习笔记 01: Introduction and word vectors

关键词:WordVectors,SVD(SingularValueDecomposition),Skip-gram,ContinuousBagofWords(CBOW),NegativeSampling
RaymondLove~·2019-05-29 21:22

PyTorch搭建N-gram模型实现单词预测

N-gram模型就是假设预测这个单词只与前面的N-1个单词有关，并不是和前面所有的词都有关系。
Answerlzd·2019-05-29 15:42

Word2vec算法原理（一）：跳字模型（skip-gram） 和连续词袋模型（CBOW）

wordembedding算法中最为经典的算法就是今天要介绍的word2vec，最早来源于Google的Mikolov的：1、DistributedRepresentationsofSentencesandDocuments2、Efficientestimationofwordrepresentationsinvectorspace也是开创了无监督词嵌入的新局面，让大量之后的NLP工作基于word
大饼博士X·2019-05-26 20:55

NLP模型——FastText

FastText一、预备知识1.1Softmax回归1.2分层Softmax1.3n-gram特征二、word2vec三、FastText原理四、FastText实战fastText是Facebook于
丶谢尔·2019-05-22 20:42

自然语言处理之fastText

在保持高精度的情况下加快了训练速度和测试速度2、fastText不需要预训练好的词向量，fastText会自己训练词向量3、fastText两个重要的优化：HierarchicalSoftmax、N-gram2
Wenweno0o·2019-05-22 20:21

fastText原理及实践

文章目录fastText原理及实践预备知识Softmax回归分层Softmaxn-gram特征fastText分类字符级别的n-gram模型架构核心思想关于分类效果keras构建fastText参考资料
张酒肉·2019-05-22 15:51

N-gram介绍

1、简介N-gram是一种基于统计的语言模型，常常用来做句子相似度比较，句子合理性判断。
guohui_0907·2019-05-20 20:07

word2vector（一）

本文是一篇翻译的文章，原文链接是：http://mccormickml.com/2016/04/19/word2vec-tutorial-the-skip-gram-model/如果你的英语很好，强烈建议直接阅读原文
furuit·2019-05-20 10:10

文本情感分析(一)：基于词袋模型(VSM、LSA、n-gram)的文本表示

现在自然语言处理用深度学习做的比较多，我还没试过用传统的监督学习方法做分类器，比如SVM、Xgboost、随机森林，来训练模型。因此，用Kaggle上经典的电影评论情感分析题，来学习如何用传统机器学习方法解决分类问题。通过这个情感分析的题目，我会整理做特征工程、参数调优和模型融合的方法，这一系列会有四篇文章。这篇文章整理文本特征工程的内容。文本的特征工程主要包括数据清洗、特征构造、降维和特征选择等
weixin_30664539·2019-05-19 10:00

感知机的对偶形式及Gram矩阵的作用理解 通俗易懂

另外，只介绍了Gram矩阵，也没有说清楚Gram矩阵的作用。经过仔细的思考，写下了自己的见解。
jieshaoxiansen·2019-05-17 15:19

word2vec原理（五）：skip-gram和CBOW模型代码实现

目录代码一代码二第一部分代码对于skip-gram和CBOW模型是通用的，第二部分是实现skip-gram模型的代码。
满腹的小不甘·2019-05-16 16:00

中文情感分析——snownlp类库 源码注释及使用

主要功能：中文分词（Character-BasedGenerativeModel）词性标注（TnT3-gram隐马）情感分析（现在训练数据主要是买卖东西时的评价，所以对其他的一些可能效果不是很好，待解决
勋爵|X-knight·2019-05-14 12:00

word2vec原理（二）：基于Hierarchical Softmax的模型

在word2vec原理(一)CBOW与Skip-Gram模型基础中，说到了使用神经网络的方法来得到词向量语言模型的原理和一些问题，现在开始关注word2vec的语言模型如何改进传统的神经网络的方法。
满腹的小不甘·2019-05-14 10:06

word2vec原理（一）： 词向量、CBOW与Skip-Gram模型基础

word2vec原理（一）：CBOW与Skip-Gram模型基础word2vec原理（二）：基于HierarchicalSoftmax的模型word2vec原理（三）：基于NegativeSampling
满腹的小不甘·2019-05-12 23:43

NLP基础实验②：TextCNN实现THUCNews新闻文本分类

fastText中的网络结果是完全没有考虑词序信息的，而它用的n-gram特征trick恰恰说明了局部序列信息的重要意义。
NLP_victor·2019-05-12 21:22

《Phrase-Based & Neural Unsupervised Machine Translation》阅读

《Phrase-Based&NeuralUnsupervisedMachineTranslation》这篇文章，同时在csdn上也写一下吧论文中主要提出了两个模型，分别是基于神经网络的NMT和基于N-Gram
Fly_TheWind·2019-05-07 20:04

[笔记]word2vec 的cbow模型和skip-gram模型

word2vec原理(二)基于HierarchicalSoftmax的模型word2vec中的数学原理详解（三）背景知识如何获取词向量？大部分情况下，词向量和语言模型都是捆绑的，训练完成后，两者同时得到。用神经网络来训练语言模型的思想最早由百度IDL的徐伟提出。这方面最经典的文章是bengio于2003年发表的《aneuralprobabilisitclanguagemodel》后来有了谷歌公司的
deardeerluluu·2019-05-06 00:00

词表征 2：word2vec、CBoW、Skip-Gram、Negative Sampling、Hierarchical Softmax

2）基于迭代的方法直接学相较于基于SVD的方法直接捕获所有共现值的做法，基于迭代的方法一次只捕获一个窗口内的词间共现值。好的语言模型中，有意义的句子高概率，无意义的句子即使语法正确也低概率。在得到输入词向量和输出词向量后如何得到最终词向量？常取输入词向量(word2vec)、拼接、相加(GloVe)等。主要有以下3种模型算法：word2vecGloVefastText（三）word2vec基本设计
cherryleechen·2019-05-03 11:01

机器翻译评测——BLEU算法详解

算法介绍和如何计算：我们先举一个例子来说明：原文：猫站在地上机器译文(candidate)：thethethethe人工译文(reference)：Thecatisstandingontheground在计算1-gram
ding_programmer·2019-05-01 21:31

词表征 2：word2vec、CBoW、Skip-Gram、Negative Sampling、Hierarchical Softmax

原文地址：https://www.jianshu.com/p/5a896955abf02）基于迭代的方法直接学相较于基于SVD的方法直接捕获所有共现值的做法，基于迭代的方法一次只捕获一个窗口内的词间共现值。好的语言模型中，有意义的句子高概率，无意义的句子即使语法正确也低概率。在得到输入词向量和输出词向量后如何得到最终词向量？常取输入词向量(word2vec)、拼接、相加(GloVe)等。主要有以下
cherrychenlee·2019-05-01 19:00

NLP技术总结

如何过滤掉不符合常规的词，比如标点符号：N-GRAM、TF-IDF当分词字典的词冲突,相互影响该怎么办?调整词频和字典顺序
Alphapeople·2019-04-30 15:32

Sentence Embedding

需先深入了解word2vec的原理，语言结构：skip-gram,CBOW；优化方法：加速softmax(negativesampling和hierarchicalsoftmax)paper:Distrib
青松愉快·2019-04-17 20:43

自己动手编译Android(LineageOS)源码

一、编译LineageOS源码准备设备：小米MIX2设备代号：chironAndroid版本：9.0PC配置：系统：Ubuntu18.04至少12GRAM至少200GB剩余硬盘空间良好的网络环境1.下载并解压
luoyesiqiu·2019-04-13 15:00
上一页 28 29 30 31 32 33 34 35 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他