Embeddings

双向RNN--(GRU)输出什么？

模型架构一层Embedding,一层双向GRUnum_embeddings=2有两条数据需要输入input_size=3GRU层的输入维度，也就是嵌入层的embedding维度hidden_size=2
静静_jingjing·2023-03-16 20:33

论文Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings代码运行

论文ImprovingMulti-hopQuestionAnsweringoverKnowledgeGraphsusingKnowledgeBaseEmbeddings代码运行期间遇到的问题与解决方法论文与代码下载地址代码试运行过程下载预训练模型EmbedKGQAInstructionsMetaQAWebQuestionsSPDatasetcreationMetaQAKGdatasetQAData
ChessZH·2023-02-07 10:19

【论文阅读】Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings

《ImprovingMulti-hopQuestionAnsweringoverKnowledgeGraphsusingKnowledgeBaseEmbeddings》论文来源：ACL2020关键词：多跳KGQA论文链接：https://www.aclweb.org/anthology/2020.acl-main.412.pdf代码链接：https://github.com/malllabiisc
天才少女101·2023-02-07 10:17

Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings

ImprovingMulti-hopQuestionAnsweringoverKnowledgeGraphsusingKnowledgeBaseEmbeddings0.Summary1.ReseachObjectivethisresearchonmulti-hopKGQA(QuestionAnsweringoverKnowledgeGraphs)hasattemptedtohandleKGspar
white diamond·2023-02-07 10:15

Improving Multi-hop Question Answering over Knowledge Graphs usingKnowledge Base Embeddings

题目：使用知识库嵌入改进知识图上的多跳问答作者：ApoorvSaxena、AditayTripathi、ParthaTalukdar发布地方：ACL面向任务：知识图谱问答论文地址：https://malllabiisc.github.io/publications/papers/final_embedkgqa.pdf论文代码：https://github.com/malllabiisc/Embed
SU_ZCS·2023-02-07 10:44

CornerNet详解

网络结构Heatmaps预测哪些点最有可能是Corners点，Embeddings用于表征属于相同对象的corner的相似度。它们的通道数都为C，
maxruan·2023-02-07 09:45

[NeurIPS 2017] Poincaré Embeddings for Learning Hierarchical Representations

ContentsIntroductionPoincaréEmbeddingsTheLimitationsofEuclideanSpaceforHierarchicalDataEmbeddingHierarchiesinHyperbolicSpaceEvaluationReferencesIntroduction如今，表征学习变得越来越重要(e.g.wordembedding,embeddingso
连理o·2023-02-04 08:22

tf.keras.layers.Embedding() 详解

Embeddinglayery参数如下：tf.keras.layers.Embedding(input_dim,output_dim,embeddings_initializer="uniform",embeddings_regularizer
爱晒太阳的胖子·2023-02-03 14:02

Assessing the Generalizability of code2vec Token Embeddings

AssessingtheGeneralizability（普遍性）ofcode2vecTokenEmbeddingsTreatingcode2vecasrepresentativeofcodeembeddings,ourstudyinvestigateswhetheritcanbesuccessfullyusedinavarietyofsoftwareengineeringtasksbeyondp
桃子小迷妹·2023-02-03 10:25

Tasks Assessing Protein Embeddings (TAPE)

proteinembedding，代码：TasksAssessingProteinEmbeddings(TAPE)，原文：EvaluatingProteinTransferLearningwithTAPE
_森罗万象·2023-02-03 09:02

位置编码 Positional embeddings in transformers

https://www.youtube.com/watch?v=1biZfFLPRSY在不同位置，使用sin和cos波取值，可以将语义向量在高维空间作位移。由于取值范围是[-1,1]，所以不会出现将向量推离太远的情况。如果sin波长较小，则相邻位置之间的取值差别较大，但低位置与高位置之间可能出现重复取值。模型能够辨别相邻位置的区别，但难以辨别其他周期的等值点。若sin波长较大，则低位置与高位置之间
Melody2050·2023-02-02 18:01

openmnt读源码记录

Embeddingsmodule文档有介绍位置：OpenNMT-py\onmt\modules\embeddings.py里
柴柴总·2023-02-02 12:21

在 keras基础上使用 Tensorboard 报错

在代码里写回调函数callbackscallbacks=[keras.callbacks.TensorBoard(log_dir=r'C:\Users\chengwai\log',histogram_freq=1,embeddings_freq
weixin_42529209·2023-01-31 16:55

什么是 Embedding()

本文只是初步解释,或者解释Embedding(input_dim,output_dim,embeddings_initializer='uniform',embeddings_regularizer=None
吴云理·2023-01-30 07:52

语义相似度、句向量生成超强模型之SBERT《Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks》

1前言随着2018年底Bert的面世，NLP进入了预训练模型的时代。各大预训练模型如GPT-2，Robert，XLNet，Transformer-XL，Albert，T5等等层数不穷。但是几乎大部分的这些模型均不适合语义相似度搜索，也不适合非监督任务，比如聚类。而解决聚类和语义搜索的一种常见方法是将每个句子映射到一个向量空间，使得语义相似的句子很接近。说到这，可能有的人会尝试将整个句子输入预训练模
*Lisen·2023-01-29 14:24

文献记录 - Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks

文献地址：https://arxiv.org/pdf/1908.10084.pdf主要内容：该论文主要是通过Siamese模型通过两个bert输出句子对的相似度，和bert原生的句子对匹配task来说，速度大大提升（以证实）。（准确率文中没有拿原生的方法对比，而是用bert直接输出的向量求余弦来的对比的（该方法效果极差），所以还不知道准确率是否比bert原生的方法好）摘要bert或robert已经
wenqiang su·2023-01-29 14:54

Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks解读

摘要使用bert和roberta来计算句子相似度太耗时，本文作者提出sentence-bert，使用孪生或三生网络对bertpretrain进行修整，在sentenceembeddingsmethods上取得sota。介绍1.bert计算句子相似度a.监督方法做法：合理使用bert结构，将上句和下句放入bert结构中，进行finetune。BERTusesacross-encoder:Twosen
qq_33221657·2023-01-29 14:47

【文献翻译】Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks

Sentence-BERT：使用SiameseBERT网络的句子嵌入【摘要】虽然BERT和RoBERTa在语义文本相似性(STS)句对回归任务上取得了最新的性能，但是它需要将两个句子都输入网络，这会导致巨大的计算开销：在10,000句子的集合中找到最相似的对需要使用BERT进行大约5000万次推理计算（约65小时）。BERT的构造使其不适用于语义相似性搜索以及聚类等无监督任务。在该论文中，介绍了S
春日思绪·2023-01-29 14:13

《Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks》论文阅读

文章地址：https://arxiv.org/abs/1908.10084文章目录文章内容文章模型文章总结文章内容  BERT和RoBERTa在一些任务中已经取得了不错的结果，但是在处理句子对相关的任务时，它们要求将2个句子一起输入到网络当中训练，而这又会导致高昂的计算代价。因此这篇论文的作者提出了Sentence-BERT(SBERT)，其使孪生或三生网络架构（siameseandtriplet
jst100·2023-01-29 14:13

文献阅读：Sentence-BERT：Sentence Embeddings using Siamese BERT-Networks

文献阅读：Sentence-BERT：SentenceEmbeddingsusingSiameseBERT-Networks1.文章简介2.主要方法介绍3.主要实验内容1.UnsupervisedSTS2.SupervisedSTS3.DownsteamSentEvalEvaluation4.AblationStudy4.结论&思考文献链接：https://arxiv.org/pdf/1908.1
Espresso Macchiato·2023-01-29 14:12

Raki的读paper小记：Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks

Abstract&Introduction&RelatedWork研究任务sentenceembedding已有方法和相关工作InferSentUniversalSentenceEncoderSkip-Thought面临挑战BERT在文本语义相似度上达到了sota，然而，它需要将两个句子都送入网络，这导致了大量的计算开销。在10,000个句子的集合中找到最相似的一对，需要用BERT进行大约5千万次
爱睡觉的Raki·2023-01-29 14:10

相似度_基于Bert_2019：Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks

Sentence-BERT:SentenceEmbeddingsusingSiameseBERT-Networks论文核心对预训练的BERT网络进行修改，使用连体和三连体网络结构，得出有语义的句子嵌入，可以使用余弦相似度进行比较。amodificationofthepretrainedBERTnetworkthatusesiameseandtripletnetworkstructurestoder
QianTu&·2023-01-29 14:39

文献阅读笔记 # Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks

《Sentence-BERT:SentenceEmbeddingsusingSiameseBERT-Networks》用于快速搭建NLP任务的demo的开源项目sbert的原始论文，star数很多，EMNLP2019(CCF-B)。资源:pdf|code|doc本文文献完成于2019年，因此仅代表当时的数据。相关工作：bert-as-a-service|InferSent|universal-se
真·skysys·2023-01-29 14:07

提取checkpoint中的tensor

获取变量列表var_dict=reader.get_variable_to_dtype_map()#从列表里面选择想要保存的variabletensor=reader.get_tensor('bert/embeddings
Nevrast·2023-01-28 19:37

【读论文】Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings

系统简称：EmbedKGQA发表会议：ACL2020研究领域：KBQA作者团队：IndianInstituteofScienceKBQA旨在通过KG回答自然语言问句。multi-hopKGQA需要在KG上的多条边之间进行推理，同时知识库上存在很多missinglinks，这些都给multi-hopKGQA带来了挑战。本文尝试将KGembedding与multi-hopKGQA结合，实验表明Embe
Jarkata·2023-01-26 17:56

手把手教你用Keras实现英文到中文机器翻译 seq2seq+LSTM

https://blog.csdn.net/qq_44635691/article/details/106919244该模型实现的是英文到中文的翻译，下图为了更好展示模型架构借用大佬的图(这里没有用到Embeddings
stay_foolish12·2023-01-26 03:41

【论文翻译】PERFECT MATCH: IMPROVED CROSS-MODAL EMBEDDINGS FOR AUDIO-VISUAL SYNCHRONISATION

PERFECTMATCH:IMPROVEDCROSS-MODALEMBEDDINGSFORAUDIO-VISUALSYNCHRONISATION超匹配：改进了用于音频-视频合成的跨地带调制摘要：本文提出了一种学习音频到视频同步的强大跨模态嵌入的新策略。在这里，我们将问题设置为跨模态检索，其中目标是找到给定短视频剪辑的最相关的音频片段。该方法建立在跨模态自我监督学习表示的最新进展的基础上。主要的贡献
页页读·2023-01-25 18:19

Keras―embedding嵌入层的用法详解

中文文档地址：https://keras.io/zh/layers/embeddings/参数如下：其中参数重点有input_dim,output_dim,非必选参数input_length.初始化方法参数设置后面会单独总结一下
wx1871428·2023-01-25 07:19

torch.nn.Embedding类（nn.Module）详解(还未写完)

torch.nn.Embedding类（nn.Module）torch.nn.Embedding(num_embeddings,embedding_dim,padding_idx=None,max_norm
大侠月牙·2023-01-25 07:17

【2015】CWE:字符嵌入和词嵌入的联合学习（Joint Learning of Character and Word Embeddings）

文章目录摘要引言模型CBOW字符增强的词嵌入多原型字符嵌入基于位置的字符嵌入基于集群的字符嵌入基于非参数集群的字符嵌入2.5初始化和优化单词选择3实验和分析结论论文链接：JointLearningofCharacterandWordEmbeddings来源：IJCAI-15代码：摘要大多数的词嵌入方法都是以词为基本单位，根据词的外部语境来学习词的嵌入，忽略了词的内部结构。然而，在一些语言中，如汉语
林若漫空·2023-01-25 07:13

torch.nn.Embedding()参数讲解

nn.Embedding(26,self.dim,padding_idx=0)num_embeddings：表示词典中词的数量embedding_dim：表示每个词对应的向量维度importtorchimporttorch.nnasnnembed
Good_Ly·2023-01-25 07:11

预训练词嵌入Pretrained Word Embeddings

介绍我们如何让机器理解文本数据？我们知道，机器在处理数字数据方面非常擅长，但如果我们把原始的文本数据提供给它们，它们的效果会很差。我们的想法是创建一个词的表征，捕捉它们的含义、语义关系和它们使用的不同类型的语境。这就是词语嵌入–文本的数字表示。而预训练的词嵌入是当今自然语言处理（NLP）领域的一个关键齿轮。但是，问题仍然存在–预训练的词嵌入是否给我们的NLP模型带来了额外的优势？这是一个你应该知道
夜色如墨·2023-01-25 07:40

Improving Knowledge Tracing via Pre-training Question Embeddings

ImprovingKnowledgeTracingviaPre-trainingQuestionEmbeddings论文：ImprovingKnowledgeTracingviaPre-trainingQuestionEmbeddings|IJCAI代码：https://github.com/lyf-1/PEBG人工智能大会IJCAI摘要知识追踪(KT)定义的任务是根据学生的历史反应预测学生是否能
sereasuesue·2023-01-24 15:09

[论文翻译] Improving Knowledge Tracing via Pre-training Question Embeddings

摘要知识追踪(KT)定义了根据学生的历史反应预测他们是否能正确回答问题的任务。尽管许多研究致力于利用问题信息，但问题和技能中的大量高级信息尚未被很好地提取，这使得以前的工作难以充分执行。在本文中，我们证明了通过在丰富的边信息上为每个问题预训练嵌入，然后在获得的嵌入上训练深度KT模型，可以实现KT的巨大收益。具体而言，边信息包括问题难度和问题与技能二分图中包含的三种关系。为了预训练问题嵌入，我们建议
z.q.xiao·2023-01-24 15:34

一种RuntimeError Key bert/embeddings/position_embeddings not found in checkpoint的解决思路

一种RuntimeError:Keybert/embeddings/position_embeddingsnotfoundincheckpoint的解决思路注意：这个方法绝对有问题，但是能解决燃眉之急P.S
nlp菜菜·2023-01-14 08:02

Self-Attentive Speaker Embeddings for Text-Independent Speaker Verification

Interspeech2018--Self-AttentiveSpeakerEmbeddingsforText-IndependentSpeakerVerificationhttp://www.danielpovey.com/files/2018_interspeech_xvector_attention.pdfYingkeZhu1,TomKo2,DavidSnyder3,BrianMak1,Da
Grace_yanyanyan·2023-01-12 13:20

时序图文献精度——2.2018-arXiv-Learning Dynamic Embeddings from Temporal Interaction Networks

LearningDynamicEmbeddingsfromTemporalInteractionNetworksAbstract表示学习为用户和物品属性的动态演变建模提供了一种有吸引力的解决方案，其中每个用户/物品可以嵌入到欧几里得空间中，其演变可以通过嵌入的动态变化来建模。在此，作者提出了一种耦合循环模型JODIE，从用户-项目交互序列中学习用户和项目的动态嵌入。JODIE有三个组件。首先，更新
头发没了还会再长·2023-01-11 10:00

embedding之word2vec

1.什么是Word2Vec和Embeddings？Word2Vec是从大量文本语料中以无监督的方式学习语义知识的一种模型，它被大量地用在自然语言处理(NLP)中。那么它是如何帮助我们做自然语言处理呢？
不可能打工·2023-01-11 07:17

《图机器学习》-Node Embeddings

NodeEmbeddings一、GraphRepresentationLearning二、NodeEmbeddings：EncoderandDecoder三、RandomWalkApproachesforNodeEmbeddings一、GraphRepresentationLearning在传统的图机器学习中，依赖于手工特征工程(即由特征工程师去设计节点、边、图的features)；给定一个输入图
快乐活在当下·2023-01-11 00:59

论文《Real-time Personalization using Embeddings for Search Ranking at Airbnb》

Real-timePersonalizationusingEmbeddingsforSearchRankingatAirbnb论文地址：https://dl.acm.org/doi/pdf/10.1145/3219819.3219885摘要部分描述了背景，Airbnb作为短租平台，旨在优化房东（host）和租客（guest）两方的偏好。这个场景的特点是一个用户很少会租同一个房间两次以及一个房间一段
巴拉巴拉朵·2023-01-10 21:48

InteractE: Improving Convolution-Based Knowledge Graph Embeddings by Increasing Feature Interactions

其它关于卷积知识图谱补全：ConvR:AdaptiveConvolutionforMulti-RelationalLearningConvE：Convolutional2DKnowledgeGraphEmbeddingsConvKB代码：ANovelEmbeddingModelforKnowledgeBaseCompletionBasedonConvolutionalNeuralNetwork1介
Re:fused·2023-01-08 00:13

pytorch_bert_pretrained代码学习

hidden_dropout_prob":0.1,"hidden_size":768,"initializer_range":0.02,"intermediate_size":3072,"max_position_embeddings
降措·2023-01-07 07:48

index out of range in self 的解决方法

发现这个问题主要是由self.entity_embeddings(LongTensor[head]))这一条语句引起的，我的解决方法是把它换成self.entity_embeddings(Variable
_hello__world__·2023-01-06 22:02

错误处理:IndexError: index out of range in self

importtorcht_embeddings=torch.nn.Embedding(2,5)x=torch.tensor([[2,3]])y=t_embeddings(x)代码如上，报错如下：IndexError
UQI-LIUWJ·2023-01-06 22:32

pytorch出现IndexError: index out of range in self

错误参考embedding层需检查张量内部具体值的大小，并确保它们的值在有效范围内[0,num_embeddings-1]学习参考但是如果将嵌入的向量改成9就不会出错了，所以你设置的input_dim就是向量值的范围
莩甲柚·2023-01-06 22:31

contextualized_embeddings

Introduction语境词嵌入（contextualizedword(CW)）是新一代词嵌入技术，它的突出特点就是词的表示对其所处的上下文具有敏感性，一个目标词的embedding可以根据他出现的上下文而变化，这些动态embeddings
一个好梦·2023-01-06 13:29

论文Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs阅读报告

摘要：这篇论文主要是介绍知识图谱补全的一个模型，对三元组中的关系预测，即（h,r,?），（?,r,t），（h,?,t）。近期的一些工作表明，基于卷积神经网络的模型会生成更丰富，更具表达力的特征嵌入，因此在关系预测上也能表现出色。但是，作者观察到这些KG嵌入独立地处理三元组，因此无法覆盖在三元组周围的相邻节点中固有隐含的复杂和隐藏信息。为此，作者提出了一种新颖的基于注意力的特征嵌入，该特征嵌入可捕获
楚航·2023-01-05 21:31

Query Expansion Using Word Embeddings 论文解读

QueryExpansionUsingWordEmbeddings论文解读整体思想基于word2vec挖掘查询词和扩展词之间的相关性搜索词和扩展词相关性基于极大似然估计的查询词和扩展词之间的相关性基于伪反馈的关联模型整体思想作者利用word2vec来挖掘查询词和扩展词之间的相关性；除此以外，为了弥补word2vec向量相似性的不足，引入了一些规则算法，例如：最大似然概率和基于基于伪反馈的关联模型。
冲啊_算法工程师·2023-01-05 05:31

Transformer-Attention is all you need 学习笔记

3.2.1ScaledDot-ProductAttention3.2.2多头注意力3.2.3我们模型中注意力的应用3.3位置前馈网络(Position-wiseFeed-ForwardNetworks)3.4Embeddings
振哥在，世界充满爱！·2023-01-02 14:12

x-vector：Deep Neural Network Embeddings for Text-Independent Speaker Verification

会议：2017interspeech机构：TheJohnsHopkinsUniversity作者：DavidSnyderabstract 用dnn提取的embedding取代i-vector表示说话人特征，对输入的speech做时间池化，用不同长度的语音训练网络，以区别说话人，句子对应定长的embeddding,成对的embedding用于PLDA打分。在NISTSRE2010和2016的数据集上
林林宋·2023-01-02 07:44
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他