GloVe词向量

来自Transformers的双向编码器表示（BERT）

word2vec和GloVe等词嵌入模型与上下文无关。它们将相同的预训练向量赋给同一个词，而不考虑词的上下文（如果有的话）。它们很难处理好自然语言中的一词多义或复杂语义。
流萤数点·2023-11-06 03:37

PyTorch框架的中LSTM的输入和输出

torch.nn.LSTM()1.输入的参数列表说明：input_size:输入数据的特征维度，（单变量=1,embedding=【词向量的表示维度】）hidden_size:LSTM隐层的维度num_layers
小维_·2023-11-05 17:26

2019-05-18某某面试

做了一道算法题最长非递减子序列二面：很大的大佬，海外博士，问了glove怎么做的，感觉没讲的很明白，这一年你做的最成功的事情是啥，平时有啥爱好？
不将就_215a·2023-11-05 11:03

机器学习之Word2Vec

1、概述Word2vec是Geogle公司2013年开源的一款用于训练词向量的软件工具。可以根据给定的语料库，通过优化后的训练模型快速有效地将一个词语表达成向量形式。
Jayden Huang·2023-11-03 05:42

基于sentencepiece工具和unicode编码两种编码分词的word2vec（CBOW，Skip-gram）词向量训练，并结合TextCNN模型，替换初始词向量进行文本分类任务

基于sentencepiece工具和unicode编码两种编码分词的word2vec（CBOW，Skip-gram）词向量训练，并结合TextCNN模型，替换初始词向量进行文本分类任务博主这次做的实验很难
Mr Gao·2023-11-02 22:25

Python自然语言处理实战（7）：文本向量化

当前阶段，对文本向量化大部分的研究都是通过词向量化实现的。与此同时，也有相当一部分研究者将句子作为文本处理的基本单元，于是产生了doc2
CopperDong·2023-11-02 04:37

构建Transformer模型 | 在wikiText-2数据集上训练一个语言模型

0Introduction自然语言处理通用解决方案需要熟悉word2Vec,了解词向量如何建模重点在于Transformer网络架构，BERT训练方法，实际应用开源项目，都是现成的，套用进去就OK了提供预训练模型
Eva215665·2023-11-01 20:17

「自然语言处理（NLP）」入门系列（三）单词表示、损失优化、文本标记化？

来源：AINLPer微信公众号（点击了解一下吧）编辑:ShuYini校稿:ShuYini时间:2020-01-09本次主要内容:1、知道词向量如何表示单词意思2、如何可视化词向量3、损失函数与优化4、文本标记化
AINLPer·2023-11-01 18:08

深度学习～循环神经网络RNN, LSTM

比如，NLP领域中，我们输入单词经常使用embedding，将单词映射为词向量，然后
天狼啸月1990·2023-11-01 09:20

人工智能AI 全栈体系（九）

1.从句子理解说起上次讲了用词向量表示词，一句话也可以表示为一个向量。
柠檬小帽·2023-10-31 18:07

spacy 英文模型下载_spaCy2.1中文模型包

本包提供适用于spaCy2.1的中文预训练模型，包括词向量、词性标注、依存分析和命名实体识别，由汇智网整理提供。
weixin_39777242·2023-10-31 11:18

word2vec训练词向量如何优化

调整参数：对于每一个词，word2vec都会学习与其相关的上下文词向量，在训练时，可以调整窗口大小、词向量维度以及忽略词频等参数，以最优化模型的表现。
凯二七·2023-10-29 09:04

灵魂20问帮你彻底搞定词向量

文章目录1.灵魂20问帮你彻底搞定词向量2.W2C模型篇--一个词通过Word2vec训练之后，可以得到几个词向量?
biuHeartBurn·2023-10-28 16:57

聊一下Glove

本文大概需要阅读4.75分钟先问大家两个问题，看能不能解答Glove中词向量的表达是使用的中心词向量还是背景词向量还是有其他方法？能不能分别用一句话概括出Glove和Fasttext的核心要点？
biuHeartBurn·2023-10-28 16:26

知识表示学习【知识图谱专栏】

知识表示学习一、知识图谱1、符号定义：2、三元组表示的缺陷：二、知识表示学习1、分布式表示的特点：2、三元组和词向量分布式表示三、知识表示经典模型1、TransE模型2、TransH模型3、TransR
俱往矣...·2023-10-28 04:39

Transformer 简单理解

文章目录一、Transformer的架构一、编码1.1词向量编码（InputEmbedding）1.2位置编码（PositionalEncoding）二、Mask2.1PADMask2.2上三角Mask
hjxu2016·2023-10-27 22:19

【深度学习&NLP】数据预处理的详细说明（含数据清洗、分词、过滤停用词、实体识别、词性标注、向量化、划分数据集等详细的处理步骤以及一些常用的方法）

数据可能不一致或者不太规范3、文本需要标记和分词4、可能需要词形还原和词干提取(词性标注)5、需要将文本向量化处理三、数据预处理方法介绍及使用样例1、数据清洗2、分词3、停用词过滤4、词性标注5、实体识别6、词向量化一
云日松·2023-10-27 21:03

面试复盘 | 阿里/腾讯/头条/paypal/快手

一面：1h面试讲项目项目中为什么使用lightGBM，比起xgboost的优点是什么因果词向量的应用场景tf多个变量如何共享权重SGDmin-SGD的区别对ep
文文学霸·2023-10-27 01:49

138.深度学习分布式计算框架-1

官方文档中简易介绍了如何使用框架在线性回归识别数字图像分类词向量个性化推荐情感分析语义角色标注机器翻译等方面的应用138.2Deeplearning4jDeepLearning4J（DL4J）是一套基于
大勇任卷舒·2023-10-26 16:06

AI小百科 - 什么是词向量？

如何表示一个单词的意义？对人来说，一般用解释法，用一段话来解释词的含义。如“太阳”在新华字典中的释义是“太阳系的中心天体。银河系的一颗普通恒星。”然而，这样的解释计算机是听不懂的，必须用更简洁的方式来对词义进行表示。传统上，计算机用一种称为“独热向量“的方式来表示单词。假设词表里一共有100个词，则用100维的向量来表示这些单词。对每个单词，只有一个维度值为1，其余维度都为0，因此称为独热向量。这
LarryHai6·2023-10-26 01:17

词向量构造 - Tf-idf模型

前面我们总结过词袋模型，词袋模型将文本中所有不重复的词看作一个集合，然后对文本中的每句话进行编码。在句子中对于出现的词标记为1，未出现的词标记为0。这样我们就完成了对文本向量的编码，然后就可以调用机器学习模型来对其进行拟合。词袋模型解决了文本编码的问题，但词袋模型本身也存在着巨大的缺点。比如：词袋模型中向量只考虑词的出现频率，不考虑该词的具体含义；词袋模型构造的向量不考虑词出现的先后顺序；词袋模型
taon·2023-10-25 12:41

从零开始的Transformers第二篇:代码解析transformer架构

代码解析transformer架构总体解析输入部分词向量InputEmbedding位置编码编码器自注意力机制掩码多头自注意力机制FeedForwardLayerNorm残差链接EncoderLayer
浅冲一下·2023-10-25 11:57

【自然语言处理】理解词向量、CBOW与Skip-Gram模型

文章目录一、词向量基础知识1.1One-hot表示1.2Distributed表示二、word2vec基础知识2.1CBOW和Skip-gram三、基于HierarchicalSoftmax的CBOW模型和
酒酿小圆子～·2023-10-25 07:45

Attention 机制

谷歌团队2018提出的用于生成词向量的BERT算法在NLP的11项任务中取得了非常出色的效果，堪称2018年深度学习领域最振奋人心的消息。
shadowismine·2023-10-25 04:39

GloVe 词向量

GloVe（GlobalVectorsforWordRepresentation）它是一个基于全局词频统计（count-based&overallstatistics）的词表征（wordrepresentation
dreampai·2023-10-24 15:09

自然语言处理---Transformer机制详解之ELMo模型介绍

EmbeddingsfromLanguageModels.ELMo模型的提出源于论文>.ELMo模型提出的动机源于研究人员认为一个好的预训练语言模型应该能够包含丰富的句法和语义信息,并且能够对多义词进行建模.而传统的词向量
lichunericli·2023-10-23 15:01

CVer从0入门NLP（一）———词向量与RNN模型

作者简介：秃头小苏，致力于用最通俗的语言描述问题专栏推荐：深度学习网络原理与实战近期目标：写好专栏的每一篇文章支持小苏：点赞、收藏⭐、留言文章目录CVer从0入门NLP（一）———词向量与RNN模型写在前面词向量
秃头小苏·2023-10-23 13:13

NLP：从头开始的文本矢量化方法

在神经NLP中，词向量（也称为词嵌入）占主导地位。可以使用预先训练的向量以及复杂神经网络中学习的向量表示。本文解释并展示了所有提
无水先生·2023-10-23 08:41

机器学习——词向量模型（未开始）

挖坑…要么我来填坑，要么把我填坑反正…闲着也是闲着，那就薅自己头发，虐自己脑袋适度自虐，有助于身心健康，阿弥陀佛…
# JFZero·2023-10-22 18:15

Bag of Tricks for Efficient Text Classification(Fasttext)

Fasttext历史意义:1、提出一种新的文本分类方法-Fasttext，能够快速进行文本分类，效果较好2、提出一种新的使用子词的词向量训练方法，能够在一定程度上解决oov问题3、将Fasttext开源使得工业界和学术界能够快速的使用
BUPT-WT·2023-10-22 14:34

Bag of Tricks for Efficient Text Classification(FastText)

文章目录摘要介绍FastText核心思想模型结构HierarchicalsoftmaxN-gramfeatures实验任务一sentimentanalysis任务二tagprediction总结fasttext词向量优势摘要本文提出了一种简单有效的文本分类和表示学习方法
云淡风轻__·2023-10-22 14:33

Bag of Tricks for Efficient Text Classification

fasttext的结构非常简单，仅仅是word2vec中CBOW模型的一个变形，CBOW是上下文单词的词向量平均去预测中心词，fasttext是整个文档的单词的词向量平均去预测标签。
AI深入浅出·2023-10-22 14:30

Bert理解总结

BERT模型增加了词向量模型泛化能力，充分描述字符级、词级、句子级甚至句间关系特征。模型非常的深，12层，并不宽(wide），中间层只有1024。BERT五个关键：Pre-training、De
Mark_Aussie·2023-10-22 14:48

自然语言处理---迁移学习

fasttext介绍作为NLP工程领域常用的工具包，fasttext有两大作用：进行文本分类、训练词向量。在保持较高精度的情况下，快速的进行训练和预测是fasttext的最大优势。
lichunericli·2023-10-22 12:18

17 Transformer 的解码器（Decoders）——我要生成一个又一个单词

Transformer编码器编码器在干吗：词向量、图片向量，总而言之，编码器就是让计算机能够更合理地（不确定性的）认识人类世界客观存在的一些东西Transformer解码器解码器会接收编码器生成的词向量
沧海之巅·2023-10-22 10:02

15 Transformer 框架概述

Transformer）通过机器翻译来做解释给一个输入，给出一个输出（输出是输入的翻译的结果）“我是一个学生”--》（通过Transformer）Iamastudent流程1编码器和解码器编码器：把输入变成一个词向量
沧海之巅·2023-10-22 10:01

NLP：从头开始的文本矢量化方法

在神经NLP中，词向量（也称为词嵌入）占主导地位。可以使用预先训练的向量以及复杂神经网络中学习的向量表示。本文解释并展示了所有提
无水先生·2023-10-22 07:37

16 Transformer 的编码器（Encodes）——我在做更优秀的词向量

博客配套视频链接:https://space.bilibili.com/383551518?spm_id_from=333.1007.0.0b站直接看配套github链接：https://github.com/nickchen121/Pre-training-language-model配套博客链接：https://www.cnblogs.com/nickchen121/p/15105048.ht
沧海之巅·2023-10-22 01:05

基于pytorch的文本情感识别（LSTM,CNN）

文章目录前言一、数据处理与Word2vec词向量训练二、创建神经网络的输入batch三、神经网络模型1.LSTM2.CNN四、训练与测试六、实验结果七、完整代码1.LSTM2.CNN前言本文使用pytorch
Die Young?·2023-10-20 23:18

pytorch nn.Embedding 读取gensim训练好的词/字向量（有例子）

1、利用gensim训练字向量（词向量自行修改）#得到每一行的数据[]datas=open('data/word.txt','r',encoding='gbk').read().split("\n")#
酸甜小龙虾·2023-10-20 23:47

Task10 BERT

目录1.Transformer的原理和实现1.1概述1.2Encoder-Decoder框架1.3整体架构1.4EncoderEncoderLayer和残差网络多头注意力机制层归一化1.5词向量前馈网络位置编码
Element简·2023-10-20 19:09

[一起学BERT]（二）：BERT快速使用

快速使用基于pytorch1.4BERT模型本质是一种词嵌入模型，也是句子嵌入模型，输入的最大长度是512BERT模型把离散的单词变成了空间中连续的向量，即把一个单词变成向量Bert词向量模型的好处：对比
笼中小夜莺·2023-10-20 14:00

2021斯坦福CS224N课程笔记~2

2NeuralClassifiers2.1本篇内容覆盖word2vec与词向量回顾算法优化基础计数与共现矩阵GloVe模型词向量评估wordsenses2.2.回顾：word2vec的主要思想2.2.1
mwcxz·2023-10-20 12:54

CS224D 课程学习笔记 L03

Lecture3.MoreWordVectorsLecture3这节课首先复习了上节课学到的word2vec模型，以及使用梯度下降和SGD优化参数，然后介绍了词向量的内部评测和外部评测，参数对于类比评测任务的影响
蜡笔大龙猫·2023-10-19 00:23

NLP学习------HanLP使用实验

学习内容在之前的实验中得到了不在词向量里的词与分词结果，结果有500多个词不在词向量里，解决方案就是重新分词，或再追加训练这些词到词向量里。但后者相对麻烦且目前样本量不大。
gladosAI·2023-10-18 12:03

词向量源码解析：（4.6）hyperwords源码解析之evaluation

similarity任务比analogy出现的时间早，是人们能想到的衡量词向量性质的最直接的方式。
Sailing_ZhaoZhe·2023-10-18 10:38

大模型LLM相关面试题整理-位置编码-tokenizer-激活函数-layernorm

这些向量会与输入序列中的词向量相加，以融合位置
zhurui_xiaozhuzaizai·2023-10-18 05:19

pytorch_神经网络构建4

文章目录循环神经网络LSTM词嵌入skip-Gram模型N-Gram模型词性预测RNN循环神经网络的基础模块实现RNN识别图片RNN时间序列预测词向量模块词向量运用N-Gram模型lstm词性预测循环神经网络这个网络主要用来处理序列信息
lidashent·2023-10-17 08:21

Bert如何融入知识一-百度和清华ERINE

这个过程其实和W2C很类似，上下文相似的情况下，mask掉的单词的词向量很可能非常相近。比如说”今天米饭真好吃“和”今天苹果真好吃“，很有可能”米饭“和”苹果“学出来的向量就很相似。
biuHeartBurn·2023-10-16 11:27

自然语言处理（NLP）-概述

NLP一、什么是自然语言处理（NLP）二、NLP的发展三、相关理论1语言模型2词向量表征和语义分析3深度学习一、什么是自然语言处理（NLP）什么是自然语言处理二、NLP的发展三、相关理论1语言模型序列数据形式多样
Cosmos Tan·2023-10-16 06:19
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他