词向量

【语言模型系列】原理篇二：从ELMo到ALBERT

上一篇讲到了word2vec存在”一词多义“的问题，其主要原因在于word2vec生成的词向量是“静态”的，每一个词固定的对应着一个词向量表示，也就是说在word2vec训练好之后，在使用单词的向量表示的时候
zenRRan·2022-12-05 02:03

使用pytorch获取bert词向量 将字符转换成词向量

转载保存：使用pytorch获取bert词向量_海蓝时见鲸_的博客-CSDN博客_获取bert词向量pytorch-pretrained-bert简单使用_风吹草地现牛羊的马的博客-CSDN博客_pretrainedpytorch
TBYourHero·2022-12-04 23:36

训练自己的GloVe词向量

highlight=glove训练GloVe词向量在github上下载源码，https://github.com/stanfordnlp/GloVe准备训练的词库，文
coolhuhu~·2022-12-04 19:27

pytorch中的nn.Conv1d()

=1,groups=1,bias=True,padding_mode=‘zeros’,device=None,dtype=None)in_channels是输入特征的维数，在文本识别中也可以理解为输入词向量的特征维数
炒饭小哪吒·2022-12-04 14:40

torch.nn.Conv1d及一维卷积举例说明

在文本分类中，即为词向量的维度o
拉轰小郑郑·2022-12-04 14:38

torch. nn.Conv1d 的简单使用

在文本分类中，即为词向量的维度，也可以理解为特征向量的维度out_channels(int)–卷积产生的通道。可以理解为卷积核
JiangHe1997·2022-12-04 13:03

torch.nn.Conv1d使用详解

out_channels,kernel_size,stride=1,padding=0,dilation=1,groups=1,bias=True)in_channels(int)–通道，在文本分类中，即为词向量的维度
小时不识月123·2022-12-04 13:02

词向量Word2vec详解

1.什么是Word2vec?在聊Word2vec之前，先聊聊NLP(自然语言处理)。NLP里面，最细粒度的是词语，词语组成句子，句子再组成段落、篇章、文档。所以处理NLP的问题，首先就要拿词语开刀。举个简单例子，判断一个词的词性，是动词还是名词。用机器学习的思路，我们有一系列样本(x,y)，这里x是词语，y是它们的词性，我们要构建f(x)->y的映射，但这里的数学模型f（比如神经网络、SVM）只接
SUNNY小飞·2022-12-04 12:13

Word2Vec详解

Word2Vec基本思想：通过训练将每一个词映射成一个固定长度的向量，所有向量构成一个词向量空间，每一个向量（单词)可以看作是向量空间中的一个点，意思越相近的单词距离越近。如何把词转换为向量？
fakerth·2022-12-04 12:41

pytorch nn.conv1d nn.conv2d 代码分析与使用

通常，输入大小为word_embedding_dim*max_length，其中，word_embedding_dim为词向量的维度，max_length为句子的最大长度。卷积核窗口在句子
uan_cs·2022-12-04 09:53

Pytorch Conv1d()

在文本分类中，即为词向量的维度out_channels(int)–卷积产生的通道。有多少个out_channel
Restart丶·2022-12-04 09:23

pytorch之nn.Conv1d和nn.Conv2d超详解

在文本分类中，即为词向量的维度out_channels：卷积产生的通道。有多少个out_channels，就需要多少个1维卷积kernel_
lyj157175·2022-12-04 09:52

Keras文本和序列（三）

文本数据向量化的几种思路文本分割成单词，单词向量化文本分割成字符，字符向量化文本分
東方海竹·2022-12-04 09:25

bert模型及其应用场景分享

文章目录1.Transformer优缺点：2.序列标注任务中为什么还要lstm3.模型融合3.1字词向量结合3.2支持mask的最大池化3.3支持mask的平均池化3.4BertFinetune3.5BERT
望长安于日下·2022-12-04 06:34

NLP基础--词向量（从One-hot到Word2Vec）

1.什么是词向量在自然语言处理中，面临的首要问题是如何让模型认识我们的文本信息，比如向模型中输入‘我爱北京天安门’，那模型是如何认识文本的？
DonngZH·2022-12-04 03:13

code2vec相关文献总结

AIfortest基本都有涉及到源代码的表示问题（如：将源代码转换为向量，使用向量进行聚类，针对聚类结果进行测试用例优先级排序），其中code2vec就是一种将代码转化为词向量的工具，详见code2vec
海苔小饼干·2022-12-03 18:05

gensim.models.word2vec 参数说明

使用gensim训练词向量的实例，InitializeandtrainaWord2Vecmodel.
明远AI·2022-12-03 18:20

【Word2vec报错TypeError: __init__() got an unexpected keyword argument ‘iter/size‘】

@[TOC](Word2vec报错TypeError:init()gotanunexpectedkeywordargument‘iter/size’)最近在用gensim做word2vec训练词向量，看了很多教程
aaa_zsygxka·2022-12-03 18:49

Bert:语言模型

能处理最大句子长度512.注意：但是因为用了encoder之后encoder没有mask机制所以就不是一个天然的语言模型，bert自己构建了一个语言模型:MLM(遮蔽语言模型)GPT：不能证明通过语言训练所得到的词向量
小杨变老杨·2022-12-03 11:07

吴恩达深度学习 5.2 序列模型-NLP和词嵌入

缺点是每两个单词向量的乘积都为0，无法获取词与词之彰的相似性和相关性。词嵌入：用不同特征对各个词汇进行表征，相对与不同的特征，不同的单词均有不同的值。
垚焱焱·2022-12-03 08:03

【NLP】词袋模型（bag of words model）和词嵌入模型（word embedding model）

本文作为入门级教程，介绍了词袋模型（bagofwordsmodel）和词向量模型（wordembeddingmodel）的基本概念。
学渣渣渣渣渣·2022-12-03 08:32

pytorch中nn.RNN()汇总

nonlinearity=tanh,bias=True,batch_first=False,dropout=0,bidirectional=False)参数说明input_size输入特征的维度，一般rnn中输入的是词向量
·2022-12-03 08:25

深度学习系列 -- 序列模型之自然语言处理与词嵌入（Natural Language Processing and Word Embeddings）

5.2Word2Vec5.2.1Skip-gram5.2.2CBOW5.2.3负采样5.3Glove6情感分类7词嵌入除偏7.1中和本身与性别无关的词汇：7.2均衡本身与性别有关的词汇1词嵌入one-hot向量将每个单词表示为完全独立的个体，不同词向量都是正交的
已退游，勿扰·2022-12-03 08:27

Transformer的PE(position embedding),即位置编码理解

transformer的输入要么是词向量或是块状处理了的图像，分别用于自然语言处理和计算机视觉领域。在自然语言处理中，原始的输入肯定是某种文字
清梦枕星河~·2022-12-02 18:42

【NLP】word2vec哈夫曼编码/层次softmax

根据输入单词直接挑出W1矩阵中对应的行向量→3.相加并求平均得一个向量（1*D）→4.和W2矩阵（D*N）相乘得最终预测置信度（1*N）→5.经过softmax得概率（1*N）（注：N为词典大小，D为词向量维度
取经小尼姑·2022-12-02 17:59

lstm结构图_深入理解RNN与LSTM

如由GoogleBrain提出的Word2Vec模型，便将传统BoW等统计方法的词向量方法，带入到了以深度学习为基础的Dist
weixin_39544101·2022-12-02 16:47

Enhanced LSTM论文总结

文章概述文章主要解决NLI问题：判断是否能从一个前提P推导出假设h模型结构图为下图，左面为ESIM,右面是基于语法树的tree-LSTM，二者预测结果融合，效果更好2.ESIM组成部分2.1inputencoding将词向量放入
dy20174530·2022-12-02 12:52

机器学习实验三---使用朴素贝叶斯进行垃圾消息分类--python

机器学习实验三---使用朴素贝叶斯进行垃圾邮件分类前言一、朴素贝叶斯分类器二、数据集处理代码1.训练算法:从词向量计算概率2.朴素贝叶斯分类函数:总结问题及解决实验小结:参考文献前言机器学习的一个重要应用就是文档的自动分类
菜刀l四庭柱·2022-12-02 07:32

Seq2Seq(Attention)

模型可以用来处理许多NLP相关任务，这里介绍加入attention机制的意义以及算法对于普通Seq2Seq模型，Encoder本身是一个RNN模型，下面的x1,x2,x3,...,xm是embedding过的词向量
Kakarot_Li·2022-12-01 17:33

NLP学习路线（其实就是个汇集了所有经典模型的自然语言处理学习笔记）

开始学习词向量（Word2Vec）1、按理来说从知乎文章的标题看，应该是要从w
若拂雪色·2022-12-01 17:32

基于word2vec的k-means聚类

1.将txt文本用word2vec将每个词转换成词向量2.将300维度的词向量用pca转换为2维3.将2维的数据作为k-means聚类的输入text.txt：作为训练的文本（最好是英文，如果是中文的话可以再用
ddy-ddy·2022-12-01 08:43

文本处理——基于 word2vec 和 CNN 的文本分类 ：综述 &； 实践（一）

基于词向量和卷积神经网络的文本分
javastart·2022-12-01 08:33

商品评价实体情感识别项目

本项目采用实体预测和情感预测双模块结构，经过bert分词之后词向量分为两份，其中一份用来进行实体识别任务，另一份用来进行情感分类任务。第一步：数据预处理 首先观察数据，原始数据都是以文件夹的形式
能吃胖的晨星·2022-12-01 04:54

CasRel关系抽取项目

用bert分词之后词向量先预测主题subject位置，然后将预测位置的词向量加到整个句子的词向量得到新的词向量，通过新的词向量来预测此主体对应的客体和其对应关系。
能吃胖的晨星·2022-12-01 04:10

nlp入门

1.数据预处理2.分词工具jiebahanlp等3.机器学习相关内容梯度下降、优化器、损失函数等4.深度学习框架tensorflowpytorch（推荐）5.词向量的训练和嵌入word2vec、glove
饿了就干饭·2022-12-01 00:33

NLP基础：检索式问答系统实战

2.2.2单词频率统计2.2.3Top10单词统计2.3对qlist进行预处理2.4文本TF-IDF表示2.5返回最匹配的TOP5答案3.基于倒排表的优化3.1建立倒排表3.2利用倒排表进行优化4.基于词向量的文本表示
CQU-XJTU-Mr. Wu·2022-12-01 00:29

位置编码

目前有三种主流的技术可以解决：用正弦位置编码（SinusoidalPositionEncoding）学习位置向量（类似词向量）相对位置表达（RelativePositionRepresentations
小镇大爱·2022-11-30 21:07

机器学习——朴素贝叶斯算法

朴素贝叶斯算法贝叶斯定理正向概率和逆向概率条件概率与全概率贝叶斯公式推导极大似然估计朴素贝叶斯分类器朴素可能性函数的作用拉普拉斯修正防溢出策略样例解释代码——使用拉普拉斯进行垃圾邮件分类构建文本向量从词向量到计算概率朴素贝叶斯分类器分类函数垃圾邮件分类总结朴素贝叶斯是有监督学习的一种分类算法
摆脱咸鱼·2022-11-30 16:50

天池小布助手对话短文本语义匹配-文本二分类实践（pytorch）

检测两个句子是否表达是同一个意思，模型数据来自天池全球人工智能技术创新大赛【赛道三】详情数据格式：模型：textcnn,lstm,lstm+attention最后选择用最后一种方法步骤：1.如果想利用词向量模型训练的结果做
路新航·2022-11-30 14:07

自然语言处理-词向量与相关应用

计算机处理图像和文字的实质是在向量矩阵等基础上将其转化为数字，然后计算搜索的内容和库内容信息的匹配度文字--->数值向量算法案例：词编码：N-gram权重：TF-IDF---->word2vec---->sense2vec-----------------------------------------------------------------------------------------
JQW_FY·2022-11-30 03:13

自然语言处理--词向量

一、词向量词向量（WordEmbedding）是表示自然语言里单词的一种方法，即把每个词都表示为一个N维空间内的点，即一个高维空间内的向量。通过这种方法，实现把自然语言计算转换为向量计算。
XYHN13·2022-11-30 03:35

机器学习-分类算法实战-使用朴素贝叶斯分类器过滤垃圾邮件

充分利用Python的文本处理能力将文档拆分为词向量。这将用于对文本进行分类。
LyShay·2022-11-30 01:29

[机器学习实战]--朴素贝叶斯过滤垃圾邮件

我们将充分利用python的文本处理能力将文档切分成词向量，然后利用词向量对文档进行分类。还将构造分类器观察其在真实的垃圾邮件数据集中的过滤效果。
chenshengta6990·2022-11-30 00:51

机器学习——朴素贝叶斯算法

目录一、朴素贝叶斯理论1.1基于贝叶斯决策理论的分类方法1.2条件概率编辑1.3全概率公式编辑1.4朴素贝叶斯分类器二、贝叶斯分类器简单应用三、使用朴素贝叶斯进行文档分类3.1准备数据：从文本中构建词向量
装进了牛奶箱中·2022-11-29 19:37

机器学习（四）朴素贝叶斯算法

贝叶斯定理有什么用1.2贝叶斯公式2.朴素贝叶斯分类器2.1朴素贝叶斯公式2.2拉普拉斯修正2.3防溢出策略3.朴素贝叶斯算法实例-过滤垃圾邮件3.1问题分析3.2代码实现3.2.1准备数据3.2.2训练算法：从词向量计算概率
Ag11·2022-11-29 18:45

torch.nn.embedding()大致使用方法

碰到了这个东西，有点不太清楚，在这里记下笔记将nn.embedding理解为学习一个词向量的表示，每一个词都会对应一个指定维度的单独的向量表示（embed_dim在GRU等模型的输入中，可以认为是input_size
chaiiiiiiiiiiiiiiiii·2022-11-29 17:24

11月28日九十节作业（自然语言处理-词向量）学习总结

一、词向量是表示自然语言里单词的一种方法，是自然语言处理的重要基础和前提二、把词转化为向量：EmbeddingLookup：用一个特定的表格（也可以用词典的数据结构，但对计算效率有影响）来储存特定词语的向量
Together.733·2022-11-29 13:57

NLP面试常考题（以前面试被问得题，答案为个人理解，仅供参考）

面试常考题（答案为个人理解，仅供参考）1:词向量是什么,有哪些方式生成词向量,句子的词向量是什么?
那年夏天那缕光·2022-11-29 11:56

NLP深入学习——什么是词向量和句向量（Word Embedding and Sentence Embedding）

文章目录返回主目录词向量（WordEmbedding）句向量（SentenceEmbedding）①Averging法则②LSTM/RNN返回主目录这是一个系列的文章，点击返回综合目录页词向量（WordEmbedding
superbfiy·2022-11-29 10:34

词向量训练实战——Word2vector、Glove、Doc2vector

目录一、基于gensim（版本：3.8.3）的Word2vector1、模型训练2、模型使用：获取词、词向量、词之间词向量比较等3、word2vector的保存和加载2、Glove3、补充句向量：Doc2Vec
lucky_chaichai·2022-11-29 10:30
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他