Word2vec

分层softmax

博客搬家至Mun：https://kiddie92.github.io/2019/06/15/%E5%88%86%E5%B1%82softmax/同步更新入坑自然语言处理，论文word2vecParameterLearningExplained
MunCN·2023-10-11 14:11

NLP - 数据预处理 - 文本按句子进行切分

安装nltk库2、下载punkt分句器三、运行程序四、额外补充一、前言  在学习对数据训练的预处理的时候遇到了一个问题，就是如何将文本按句子切分，使用传统的jieba切割的颗粒度在词的程度，不能满足训练word2vec
风吹落叶花飘荡·2023-10-09 01:22

自动训练Embedding词向量和手动训练Embedding词向量

手动训练自己的词向量gensim工具包-训练自己的Word2Vec产生word_vector.bin文件然后调用：embedding=nn.Embedding.from_pretrained(word_vector.bin
Hi洛一·2023-10-09 01:35

word embedding的模型与测试

相似度一定程度上可以衡量缺点：高维度，稀疏性SVD（降维）观察发现，前10%甚至前10%的奇异值的和占了全部奇异值之和的99%以上优点：改善了高纬度，稀疏性，相似度无法衡量问题缺点：复杂度高O(mn2)word2vec
丫头片子不懂事·2023-10-09 01:04

wikipedia 训练繁体中文 embedding(word2vec)模型

由于课题任务需要一个繁体中文的word2vec,折腾经过记录在此。希望以后少掉几个坑。
每一个有风的日子·2023-10-09 01:02

基于SVM+TensorFlow+Django的酒店评论打分智能推荐系统——机器学习算法应用(含python工程源码)+数据集+模型（一）

通过使用Word2Vec生成词向量，该项目实现了一个打分推荐系统，其中服务器端提供数
小胡说人工智能·2023-10-08 13:17

基于深度学习的聊天机器人

项目前期知识准备文章目录基于深度学习的聊天机器人-项目前期知识准备一、TensorFlow框架简介二、NLP基础1.常用的神经网络模型2.词法分析3.贝叶斯和朴素贝叶斯4.隐马尔科夫模型5.语料相关6.语言模型7.词向量Word2vec
Chiancc·2023-10-07 10:12

一文读懂 Word2vec

Word2vec论文由Google的研究团队发布于2013年，它的发布，很大程度上改变了NLP技术的发展，不仅如此，在使用神经网络来解决各个领域的问题时，谈必离不开Embedding，而Embedding
程序员在深圳·2023-10-06 18:23

浅谈wor2vec，RNN，LSTM，Transfermer之间的关系

首先，我先做一个定位，其实Transfermer是RNN，LSTM，和word2vec的一种“提升版”。
Mr Gao·2023-10-06 10:59

fasttext-advance版本

该方法的优化点是将位置信息添加到word2vec的计算中。word2vec有两种实现方式，一种是cbow，基于context（上下文S词）预测中心词，另一种是skipgram，基于中心词预测上下文。
小小兰哈哈·2023-10-05 19:00

Tensorflow实现Word2Vec

首先是载入各种依赖库，因为要从网络中下载数据，粗腰的依赖库比较多。importcollectionsimportmathimportosimportrandomimportzipfileimportnumpyasnpimporturllibimporttensorflowastf这里使用urllib.request.urlretrieve下载数据的亚索文件并核对文件尺寸，如果已经下载了文件则跳过。
河南骏·2023-10-02 14:31

Distributed Representations of Sentences and Documents

这篇文章作者是word2vec的作者，主要做的工作是paragraphvector，就是把paragraph变成一个固定长度的向量。其中大量的思路借鉴与CBOW和Skip-gram。
哒丑鬼·2023-10-02 12:55

Word2Vec报错：KeyError: “word ‘XXX‘ not in vocabulary“

Word2Vec报错：KeyError:“word‘XXX’notinvocabulary”在进行文本分析时，遇到Word2Vec报错：KeyError:“word‘XXX’notinvocabulary
qq_32834123·2023-10-02 02:19

《自然语言处理：基于预训练模型的方法》第七章 预训练语言模型

预训练语言模型广义上，泛指提前经过大规模数据训练的语言模型，包括早期的以Word2vec、Glove为代表的静态词向量模型
夜空霓虹·2023-10-01 21:32

预训练语言模型（四）：ELMo模型

预训练语言模型的前世今生-从WordEmbedding到BERTELMo也参考了这个：【NLP-13】ELMo模型（EmbeddingsfromLanguageModels）这里提出的一个新的问题是：Word2Vec
Dream_Poem·2023-10-01 21:31

【深度学习】实验18 自然语言处理

文章目录自然语言处理分词技术1.正向最大匹配算法2.HanLP常用方法3.Jieba常用方法构建词向量1.基于sklearn构建One-hot词向量2.基于gensim构建word2vec词向量附：系列文章自然语言处理自然语言处理
Want595·2023-09-30 16:36

短文本评分方法 （Short Text Scoring Method）

短文本评分方法（ShortTextScoringMethod）此方法是基于改进后的RAKE算法并结合word2vector，对短文本内容进行评分的一种方法。
吴祺育的笔记·2023-09-30 04:55

不懂word2vec，还敢说自己是做NLP？

随着Google发布word2vec，深度学习在自然语言处理领域也掀起了一阵狂潮。由于最近正在做一个相关的NLP项目，所以抽时间总结一下word2vec的相关知识点。
机器学习算法工程师·2023-09-29 00:44

word2vec 获得当前的所有词向量表的几种方式

前提条件1.安装gensim包2.已经生成词向量模型在实际项目中，需要构建词和词向量字典表用于训练，以下是我所用到的方式方式1:fromgensim.models.word2vecimportWord2Vecmodel
bertramlau·2023-09-27 23:52

NLP BigModel

NLP基础建议看[CS224N2023]打基础【NLP入门】1.n元语法模型/循环神经网络【NLP入门】3.Word2Vec/GloVeLanguageModel：语言模型的马尔可夫假设（每个词出现的概率仅依赖前面出现的词
Yuezero_·2023-09-27 14:20

基于TensorFlow实现Skip-Gram模型

理解Word2Vec之Skip-Gram模型Word2Vec是从大量文本语料中以无监督的方式学习语义知识的一种模型，它被大量地用在自然语言处理（NLP）中。
龙耀威·2023-09-27 08:03

day3-搜索和推荐的matching技术

Embedding什么是Embedding从数学上看，是映射从神经网络的角度看，是层与层之间的矩阵从特征的角度看，是从一套特征映射到另一种表示方法Embedding的产出方式监督学习：深度学习和FM无监督学习：word2vec
一杯敬朝阳一杯敬月光·2023-09-26 12:46

Day1-DeepWalk

OnlineLearningofSocialRepresentations》2014年发表在数据挖掘顶会ACMSIGKDD（KDD）上的论文目的：学习节点表示推动：将自然语言处理里面的无监督学习方法迁移至此思路：将图结构序列化，类比与单词序列，然后用word2vec
知福致福·2023-09-26 12:42

word2vec的参数选择及原理简介

1.参数选择gensim中word2vec的参数见文档：https://radimrehurek.com/gensim/models/word2vec.htmlclassgensim.models.word2vec.Word2Vec
Rover Ramble·2023-09-25 22:26

豆瓣评分预测

文本预处理1.去掉无用的字符2.去掉停用词3.去掉低频词文本特征提取1.把文本分为训练集和测试集2.把文本转换为向量的形式：tf-idf向量、word2vec（CBoW,SkipGram）、bert模型搭建与模型训练
漱衣仁止·2023-09-25 18:45

Embeddig技术与应用 (1) ：Embedding技术发展概述及Word2Vec

编者按：嵌入(Embedding)是机器学习中一种将高维稀疏向量转换为低维稠密向量的技术。其通常用于处理自然语言、图像等高维离散数据。嵌入能够有效地解决维度灾难问题，减少存储和计算成本，同时提高模型的表达能力。我们还可以通过得到的嵌入向量进行语义相似度计算、推荐系统、分类任务等多种应用。嵌入还可以用于处理非结构化数据，如文本、图像、音频等，帮助机器理解和处理人类的语言和其他感知信息。IDP开启Em
·2023-09-25 16:20

【Graph Net学习】DeepWalk/Node2Vec实现Graph Embedding

模型目标输入输出Word2VecWordSentenceWordEmbeddingDeepWalkNodeNodeSequenceNodeEmbeddi
BoostingIsm·2023-09-24 19:16

DeepWalk实战---Wiki词条图嵌入可视化

DeepWalk是2014年提出的一种Graph中的Node进行Embedding的算法，是首次将自然语言处理领域NLP中的word2vec拓展到了graph。
重剑DS·2023-09-24 18:45

word2vec 中CBOW和skip-gram随笔

word2vec有两种生成词向量的方式，CBOW和skip-gramCBOW是输入上下文one-hot形式，输出需要预测的词的one-hot形式，相当于一个多分类。
华小锐·2023-09-24 17:56

什么是词向量？

那么word2vec向量到底在哪儿？其实这些词向量就是神经网络里的参数，生成词向量的过程就是一个参数更新的过程。那么究竟是什么参数呢？
ClarenceHoo·2023-09-23 03:55

Intro to Wordembedding

wordembeddinginword2vecword2vec原理eg.Iwannatrainwordembeddingwithgiventrainingdata.CB
TheLostMan丶·2023-09-21 22:24

M3E&ChatGLM向量化构建本地知识库

这通常通过嵌入模型（embeddingmodels）完成，比如word2vec，GloVe，或者BERT等，这些模型可以将文本数据
我在北国不背锅·2023-09-20 05:44

大语言模型学习引言

Task01引言目录1.1什么是语言模型1.2语言模型进化史信息论、熵N-gram语言模型Word2VecELMoTransformerBert1.3大语言模型1.1什么是语言模型说到大模型，首先介绍语言模型
Runjavago·2023-09-19 17:35

如何gensim加载glove训练的词向量

如何gensim加载glove训练的词向量一、前言glove和word2vec是目前最常用的两个训练词向量的模型，两者训练出来的文件都以文本格式呈现，区别在于word2vec包含向量的数量及其维度。
Evermemo·2023-09-19 08:54

蚂蚁金服面试——风控策略

是否有修改Word2Vec源码，什么语言？话题可视化项目的过程和技术。以上都是文本相关的项目，接着是问模式识别的项目。病人手术中低温概率预测项目。是否用过降维算法？
米老鼠他姘头·2023-09-17 03:32

Gensim库的使用——Gensim库的核心概念介绍

主要包括TF-IDF，LSA，LDA，word2vec，doc2vec等多种模型。
桉夏与猫·2023-09-16 08:47

transformer 总结(超详细-初版)

transformer的结构来依次解析输入部分(Encode侧)input输出主要包含两个部分：embedding的输入数据，数据位置的embedding关于输入数据的embedding有很多种方式，比如word2vec
Lian_Ge_Blog·2023-09-15 03:15

Word2Vec的原理是什么，如何用训练Word2Vec

Word2Vec是一种基于神经网络的词向量生成模型，通过训练预测上下文单词或中心单词来生成词向量。
天一生水water·2023-09-14 19:26

使用 PyTorch 实现 Word2Vec 中Skip-gram 模型

首先创建了一个使用Word2VecDataset类自定义的数据集，用于生成训练数据。然后，定义了Skip-gram模型，并使用交叉熵损失函数和Adam优化器进行训练。
天一生水water·2023-09-14 19:53

[学习笔记]词向量模型-Word2vec

参考资料：【word2vec词向量模型】原理详解+代码实现NLP自然语言处理的经典模型Word2vec论文背景知识词的表示方法One-hotRepresentation：独热表示简单，但词越多，向量越长
N刻后告诉你·2023-09-11 21:01

[学习笔记]DeepWalk图神经网络论文精读

参考资料：DeepWalk【图神经网络论文精读】word2vec相关论文：EfficientEstimationofWordRepresentationsinVectorSpaceDistributedRepresentationsofWordsandPhrasesandtheirCompositionality
N刻后告诉你·2023-09-11 21:01

《自然语言处理》chapter7-预训练语言模型

广义上的预训练语言模型可以泛指提前经过大规模数据训练的语言模型，包括早期的Word2vec、GloVe为代表的静态词向量模型，以及基于上下文建模的
Jiawen9·2023-09-10 04:49

自然语言处理-词向量模型-Word2Vec

通常数据的维度越高，能提供的信息也就越多，从而计算结果的可靠性就更值得信赖如何来描述语言的特征呢，通常都在词的层面上构建特征，Word2Vec就是要把词转换成向量假设现在已经拿到一份训练好的词向量，其中每一个词都表示为
W_en丶·2023-09-09 07:44

BERT、GPT

目录词嵌入的发展Word2Vec和GloVeELMoULM-FiTOpenAITransformerBERTPre-trainingFine-Turning使用GPT和BERT的差别Maskedself-attentionlayers
Gu_NN·2023-09-08 05:39

程序员必须知道的9大数据挖掘工具

1、GenismGenism是用来做文本主题模型的库，主要用来处理语言方面的任务，如文本相似度计算、LDA、Word2Vec等。
明月说数据·2023-09-07 01:23

2020-02-27-ModelCode

召回策略：热度，LBS，usertag，itemcf，频繁模式挖掘，二部图挖掘，embedding（word2vec、fasttext、bert），deepmatch排序策略，learningtorank
inspiredhss·2023-09-05 13:59

TextRNN实现文本分类

思路给出的baseline为0.82(F1)，方法是将语料中所有字拆开训练成300D的word2vec后，每一句的处理采用将所有字的向量相加取平均的方法得到句向量（300D），然后使用一个全连接层进行训练
Leslie_Leung·2023-09-05 01:58

【AI理论学习】语言模型：从Word Embedding到ELMo

2013年的Word2Vec及2014年的GloVe的工作中，每个词对应一个vector，对于多义词无能为力。ELMo的工作对于此，提出了一个较好的解决方案。不同于以往的一个词对应一个向量，是固定的。
镰刀韭菜·2023-09-04 21:35

入门自然语言处理必看，图解word2vec！

图解word2vec精翻版，加入了自己的理解，和稍微有点出入，http://jalammar.github.io/illustrated-word2vec/image词嵌入（embedding）是机器学习中最惊人的创造
助力笔记·2023-09-04 20:56

史上最详细Transformer讲解以及transformer实现中文版完形填空（掩蔽字训练MASK） 内容详细易懂且附有全部代码

1.2Transformer的特点和创新点：1.3Transformer一些前置知识2.aTransformer-Encoder结构（模型左半部分）2.1输入部分Embedding2.1.1one-hot编码2.1.2word2vec
herry_drj·2023-09-03 03:33
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他