Word2Vec

聊一下Word2vec-训练优化篇

Word2vec涉及到两种优化方式，一种是负采样，一种是层序Softmax先谈一下负采样，以跳字模型为例。中心词生成背景词可以由两个相互独立事件的联合组成来近似（引自李沐大神的讲解）。
biuHeartBurn·2023-10-29 09:53

自然语言处理 （NLP） 简介

自然语言处理（NaturalLanguageProcessingNLP）简介本课程是关于NLP101的4部分系列中的第1部分：自然语言处理导论（今天的教程）BagofWords模型简介Word2Vec：
程序媛一枚~·2023-10-29 01:06

word2vec两种优化方式的联系和区别

总结不易，请大力点赞，感谢上一个文章，Word2vec-负采样/霍夫曼之后模型是否等价-绝对干货是字节的面试真题，建议朋友们多看几遍，有问题及时沟通。
biuHeartBurn·2023-10-28 16:57

灵魂20问帮你彻底搞定词向量

文章目录1.灵魂20问帮你彻底搞定词向量2.W2C模型篇--一个词通过Word2vec训练之后，可以得到几个词向量?
biuHeartBurn·2023-10-28 16:57

linux 繁体中文转为简体,linux - 安装OpenCC(简体繁体转换)

最近使用中文维基百科数据训练Word2Vec时，发现数据里面包含了很多繁体字，这就很尴尬了。这时候就知道OpenCC的强大了。
猫咪兔兔·2023-10-28 02:38

【Gensim概念】03/3 NLP玩转 word2vec

第三部分对象函数八word2vec对象函数该对象本质上包含单词和嵌入之间的映射。训练后，可以直接使用它以各种方式查询这些嵌入。有关示例，请参阅模块级别文档字符串。
无水先生·2023-10-26 23:46

【Gensim概念】01/3 NLP玩转 word2vec

该模块使用高度优化的C例程、数据流和Pythonic接口来实现word2vec系列算法。word2ve
无水先生·2023-10-26 02:37

【自然语言处理】理解词向量、CBOW与Skip-Gram模型

文章目录一、词向量基础知识1.1One-hot表示1.2Distributed表示二、word2vec基础知识2.1CBOW和Skip-gram三、基于HierarchicalSoftmax的CBOW模型和
酒酿小圆子～·2023-10-25 07:45

GloVe 词向量

Glove实现image.pngimage.pngimage.pngGlove与LSA、word2vec的比较LSA采用了基于奇异值分解（SVD）的矩阵分解技术对大矩阵进行降维，
dreampai·2023-10-24 15:09

自然语言处理---Transformer机制详解之ELMo模型介绍

EmbeddingsfromLanguageModels.ELMo模型的提出源于论文>.ELMo模型提出的动机源于研究人员认为一个好的预训练语言模型应该能够包含丰富的句法和语义信息,并且能够对多义词进行建模.而传统的词向量(2013年的word2vec
lichunericli·2023-10-23 15:01

4个可以写进简历的京东 NLP 项目实战

项目一、京东健康智能分诊项目第一周：文本处理与特征工程|BagofWords模型|从tf-idf到Word2Vec|SkipGram与CBOW|HierarhicalSoftmax与NegativeSampling
Amusi（CVer）·2023-10-23 13:16

Bag of Tricks for Efficient Text Classification

fasttext的结构非常简单，仅仅是word2vec中CBOW模型的一个变形，CBOW是上下文单词的词向量平均去预测中心词，fasttext是整个文档的单词的词向量平均去预测标签。
AI深入浅出·2023-10-22 14:30

BERT 理解

作为一个Word2Vec的替代者，其在NLP领域的11个方向
Carlosi·2023-10-22 14:18

sklearn文本特征预处理2:Similarity, 聚类, LDA, word2vec

接上一篇五.Similarity特征#余弦相似度fromsklearn.metrics.pairwiseimportcosine_similaritysimilarity_matrix=cosine_similarity(tv_matrix)similarity_df=pd.DataFrame(similarity_matrix)similarity_df六.聚类特征fromsklearn.clu
弎见·2023-10-21 11:44

基于pytorch的文本情感识别（LSTM,CNN）

文章目录前言一、数据处理与Word2vec词向量训练二、创建神经网络的输入batch三、神经网络模型1.LSTM2.CNN四、训练与测试六、实验结果七、完整代码1.LSTM2.CNN前言本文使用pytorch
Die Young?·2023-10-20 23:18

[一起学BERT]（二）：BERT快速使用

快速使用基于pytorch1.4BERT模型本质是一种词嵌入模型，也是句子嵌入模型，输入的最大长度是512BERT模型把离散的单词变成了空间中连续的向量，即把一个单词变成向量Bert词向量模型的好处：对比word2vec
笼中小夜莺·2023-10-20 14:00

2021斯坦福CS224N课程笔记~2

2NeuralClassifiers2.1本篇内容覆盖word2vec与词向量回顾算法优化基础计数与共现矩阵GloVe模型词向量评估wordsenses2.2.回顾：word2vec的主要思想2.2.1
mwcxz·2023-10-20 12:54

Stanford CS224N - word2vec

最近在听Stanford放出来的StanfordCS224NNLPwithDeepLearning这门课，弥补一下之前nlp这块基础知识的一些不清楚的地方，顺便巩固一下基础知识关于word2vec：1.
oveZ·2023-10-20 12:46

CS224D 课程学习笔记 L03

Lecture3.MoreWordVectorsLecture3这节课首先复习了上节课学到的word2vec模型，以及使用梯度下降和SGD优化参数，然后介绍了词向量的内部评测和外部评测，参数对于类比评测任务的影响
蜡笔大龙猫·2023-10-19 00:23

Python内置函数系统学习（2）——数据转换与计算 (详细语法参考+参数说明+应用场景示例), max()在列表、元组、字典中的综合应用 | 编程实现当前内存使用情况的监控

】基于知识图谱的电影问答系统（含问题记录与解决）附：源代码（含Bug解决）【Neo4j×知识图谱】图形化数据库基本操作:创建节点与关系、添加属性、查询节点|附：可视化构建四大名著知识图谱（含源代码）|word2vec
追光者♂·2023-10-18 06:04

2020-02-14：伯禹打卡笔记

伯禹文本预处理课程学习文本预处理一般的文本预处理步骤：分词（中英文不同，中文分词难度大一些，有一些分词工具：spaCy、NLTK、jieba等，还可以在分词之后去除停用词等，根据语料及使用场景决定）词的向量表示（One-hot（资料中的词典），Word2Vec
hc2zzcj·2023-10-15 04:38

遇到argument of type ‘Word2Vec‘ is not iterable不要慌。。。

报这个错我这里的原因是word2vec构造出来的模型不能遍历原来代码：ifwordinmodel:（model就是用word2vec构造出来的）应该修改成：vocab=model.wvifwordinvocab
昊温柔·2023-10-14 14:32

Deepwalk(深度游走)算法简介

深度游走：一种社交表示的在线学习算法主要思想Deepwalk算法参考文献主要思想  Deepwalk是一种将随机游走(randomwalk)和word2vec两种算法相结合的图结构数据挖掘算法。
Mr.Cheng1996·2023-10-14 07:14

Deepwalk深度游走算法

主要思想Deepwalk是一种将随机游走和word2vec两种算法相结合的图结构数据的挖掘算法。
big_matster·2023-10-14 07:40

DeepWalk（深度游走）算法

整理自：Deepwalk(深度游走)算法简介_Mr.Cheng1996的博客-CSDN博客【论文笔记】DeepWalk-知乎DeepWalk是一种将随机游走(randomwalk)和word2vec两种算法相结合的图结构数据挖掘算法
嵌入式开发.·2023-10-14 07:03

GloVe详解

Introduction：矩阵分解和Word2vec学习词向量的方式各有优劣，本文提出的GloVe同时学习者两种信息RelatedWord:前人工作介绍，主要介绍矩阵分解和Word2vec两种方法TheGloVeModel
Wo0_0aa7·2023-10-13 11:11

优雅！比OpenAI更认真的文本嵌入模型

关于Embedding的最早提法可追溯至2012年Google的Word2vec论文。
ZA技术社区·2023-10-13 06:31

2018-09-07

blacklist对URL进行过滤，blacklist里面有的URL直接输出为恶意，其他URL数据使用三种算法进行进一步判断，三种算法依次是：SVM、逻辑回顾、CNN，其中SVM使用TF-IDF特征，CNN使用word2vec
creamelody·2023-10-12 09:08

【问题】WARNING: There was an error checking the latest version of pip.

目录1、问题描述：2、解决办法：3、结果：参考文献:1、3、4可以解决问题今天在学习NLP是需要安装jieba库和word2vec库，但是在安装的时候出现了一下问题。
空城老祖·2023-10-11 22:17

分层softmax

博客搬家至Mun：https://kiddie92.github.io/2019/06/15/%E5%88%86%E5%B1%82softmax/同步更新入坑自然语言处理，论文word2vecParameterLearningExplained
MunCN·2023-10-11 14:11

NLP - 数据预处理 - 文本按句子进行切分

安装nltk库2、下载punkt分句器三、运行程序四、额外补充一、前言  在学习对数据训练的预处理的时候遇到了一个问题，就是如何将文本按句子切分，使用传统的jieba切割的颗粒度在词的程度，不能满足训练word2vec
风吹落叶花飘荡·2023-10-09 01:22

自动训练Embedding词向量和手动训练Embedding词向量

手动训练自己的词向量gensim工具包-训练自己的Word2Vec产生word_vector.bin文件然后调用：embedding=nn.Embedding.from_pretrained(word_vector.bin
Hi洛一·2023-10-09 01:35

word embedding的模型与测试

相似度一定程度上可以衡量缺点：高维度，稀疏性SVD（降维）观察发现，前10%甚至前10%的奇异值的和占了全部奇异值之和的99%以上优点：改善了高纬度，稀疏性，相似度无法衡量问题缺点：复杂度高O(mn2)word2vec
丫头片子不懂事·2023-10-09 01:04

wikipedia 训练繁体中文 embedding(word2vec)模型

由于课题任务需要一个繁体中文的word2vec,折腾经过记录在此。希望以后少掉几个坑。
每一个有风的日子·2023-10-09 01:02

基于SVM+TensorFlow+Django的酒店评论打分智能推荐系统——机器学习算法应用(含python工程源码)+数据集+模型（一）

通过使用Word2Vec生成词向量，该项目实现了一个打分推荐系统，其中服务器端提供数
小胡说人工智能·2023-10-08 13:17

基于深度学习的聊天机器人

项目前期知识准备文章目录基于深度学习的聊天机器人-项目前期知识准备一、TensorFlow框架简介二、NLP基础1.常用的神经网络模型2.词法分析3.贝叶斯和朴素贝叶斯4.隐马尔科夫模型5.语料相关6.语言模型7.词向量Word2vec
Chiancc·2023-10-07 10:12

一文读懂 Word2vec

Word2vec论文由Google的研究团队发布于2013年，它的发布，很大程度上改变了NLP技术的发展，不仅如此，在使用神经网络来解决各个领域的问题时，谈必离不开Embedding，而Embedding
程序员在深圳·2023-10-06 18:23

浅谈wor2vec，RNN，LSTM，Transfermer之间的关系

首先，我先做一个定位，其实Transfermer是RNN，LSTM，和word2vec的一种“提升版”。
Mr Gao·2023-10-06 10:59

fasttext-advance版本

该方法的优化点是将位置信息添加到word2vec的计算中。word2vec有两种实现方式，一种是cbow，基于context（上下文S词）预测中心词，另一种是skipgram，基于中心词预测上下文。
小小兰哈哈·2023-10-05 19:00

Tensorflow实现Word2Vec

首先是载入各种依赖库，因为要从网络中下载数据，粗腰的依赖库比较多。importcollectionsimportmathimportosimportrandomimportzipfileimportnumpyasnpimporturllibimporttensorflowastf这里使用urllib.request.urlretrieve下载数据的亚索文件并核对文件尺寸，如果已经下载了文件则跳过。
河南骏·2023-10-02 14:31

Distributed Representations of Sentences and Documents

这篇文章作者是word2vec的作者，主要做的工作是paragraphvector，就是把paragraph变成一个固定长度的向量。其中大量的思路借鉴与CBOW和Skip-gram。
哒丑鬼·2023-10-02 12:55

Word2Vec报错：KeyError: “word ‘XXX‘ not in vocabulary“

Word2Vec报错：KeyError:“word‘XXX’notinvocabulary”在进行文本分析时，遇到Word2Vec报错：KeyError:“word‘XXX’notinvocabulary
qq_32834123·2023-10-02 02:19

《自然语言处理：基于预训练模型的方法》第七章 预训练语言模型

预训练语言模型广义上，泛指提前经过大规模数据训练的语言模型，包括早期的以Word2vec、Glove为代表的静态词向量模型
夜空霓虹·2023-10-01 21:32

预训练语言模型（四）：ELMo模型

预训练语言模型的前世今生-从WordEmbedding到BERTELMo也参考了这个：【NLP-13】ELMo模型（EmbeddingsfromLanguageModels）这里提出的一个新的问题是：Word2Vec
Dream_Poem·2023-10-01 21:31

【深度学习】实验18 自然语言处理

文章目录自然语言处理分词技术1.正向最大匹配算法2.HanLP常用方法3.Jieba常用方法构建词向量1.基于sklearn构建One-hot词向量2.基于gensim构建word2vec词向量附：系列文章自然语言处理自然语言处理
Want595·2023-09-30 16:36

短文本评分方法 （Short Text Scoring Method）

短文本评分方法（ShortTextScoringMethod）此方法是基于改进后的RAKE算法并结合word2vector，对短文本内容进行评分的一种方法。
吴祺育的笔记·2023-09-30 04:55

不懂word2vec，还敢说自己是做NLP？

随着Google发布word2vec，深度学习在自然语言处理领域也掀起了一阵狂潮。由于最近正在做一个相关的NLP项目，所以抽时间总结一下word2vec的相关知识点。
机器学习算法工程师·2023-09-29 00:44

word2vec 获得当前的所有词向量表的几种方式

前提条件1.安装gensim包2.已经生成词向量模型在实际项目中，需要构建词和词向量字典表用于训练，以下是我所用到的方式方式1:fromgensim.models.word2vecimportWord2Vecmodel
bertramlau·2023-09-27 23:52

NLP BigModel

NLP基础建议看[CS224N2023]打基础【NLP入门】1.n元语法模型/循环神经网络【NLP入门】3.Word2Vec/GloVeLanguageModel：语言模型的马尔可夫假设（每个词出现的概率仅依赖前面出现的词
Yuezero_·2023-09-27 14:20

基于TensorFlow实现Skip-Gram模型

理解Word2Vec之Skip-Gram模型Word2Vec是从大量文本语料中以无监督的方式学习语义知识的一种模型，它被大量地用在自然语言处理（NLP）中。
龙耀威·2023-09-27 08:03
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他