SIMCSE

SimCSE: Simple Contrastive Learning of Sentence Embeddings(EMNLP 2021)

SimCSE:SimpleContrastiveLearningofSentenceEmbeddings(EMNLP2021)Motivation无监督的SimCSE将句子过两次预训练模型得到两个不同的
默默无闻的[UNK]·2022-12-02 14:21

论文解读SimCSE: Simple Contrastive Learning of Sentence Embeddings

简介这是一篇方法很简单效果却十分好的论文，直接将语义相似度sota提升了好几个百分点。背景对比学习Contrastivelearningaimstolearneffectiverepresentationbypullingsemanticallycloseneighborstogetherandpushingapartnon-neighbors(Hadselletal.,2006)对比学习可以拉开
黑夜使者·2022-12-02 14:20

文献阅读：SimCSE：Simple Contrastive Learning of Sentence Embeddings

文献阅读：SimCSE：SimpleContrastiveLearningofSentenceEmbeddings1.文献内容简介2.主要方法介绍3.主要实验介绍1.STSExperiment2.DownsteamExperiment4
Espresso Macchiato·2022-12-02 14:48

相似度_对抗学习：SimCSE: Simple Contrastive Learning of Sentence Embeddings

SimCSE:SimpleContrastiveLearningofSentenceEmbeddings这篇论文，我觉得有意思。在创造对抗学习的正负例时，正例直接使用它本身。
等景，不如找景·2022-12-02 14:47

SimCSE：对比学习，只需要Dropout

要说2021年上半年NLP最火的论文，想必非《SimCSE:SimpleContrastiveLearningofSentenceEmbeddings》莫属。
数学家是我理想·2022-12-02 14:46

【NLP】对比学习——文本匹配（二）

文章目录d.SimCSE：2021.04UnsupervisedSupervisede.R-Drop（Supervised）：2021.06f.ESimCSE（Unsupervised）：2021.09g.PromptBERT
馨歌·2022-11-22 03:55

【论文阅读-对比学习】ConSERT- A Contrastive Framework for Self-Supervised Sentence Representation Transfer

今天继续来看对比学习的一篇论文，比SimCSE稍晚几个月发的，主要关注在embeddings层的不同的数据增强方式。
_春天_·2022-11-21 09:34

Ernie-SimCSE对比学习在内容反作弊上应用

本次分享，首先介绍了知道提问群发推广作弊的形态，分析传统反作弊方案在此形态下的优缺点，对比了对比学习的数据增强和SimCSE两种方法，并分享了SimCSE论文中loss的缺点，最
百度Geek说·2022-11-19 16:46

Ernie-SimCSE对比学习在内容反作弊上应用

本次分享，首先介绍了知道提问群发推广作弊的形态，分析传统反作弊方案在此形态下的优缺点，对比了对比学习的数据增强和SimCSE两种方法，并分享了SimCSE论文中loss的缺点，最
·2022-11-17 10:27

SimCSE: Simple Contrastive Learning of Sentence Embeddings

SimCSE论文目的SimCSE:simplecontrastivesentenceembeddingframework首先提出一种无监督的方法，仅使用dropout作为噪声，进行对比训练。
红酒暖心也暖胃·2022-11-07 21:17

【论文复现】SimCSE对比学习: 文本增广是什么牛马，我只需要简单Dropout两下

文本增广是什么牛马，我只需要简单Dropout两下SentenceEmbeddings与对比学习SimCSE无监督Dropout有监督对比学习如何评判SentenceEmbeddings的质量实验结果复现无监督
是算法不是法术·2022-11-07 21:46

SimCSE nlp对比学习句向量相似语义

参考：https://github.com/princeton-nlp/SimCSEhttps://github.com/bojone/SimCSE/blob/main/utils.py提前下载数据Google
loong_XL·2022-11-07 21:14

SimCSE：用于句子嵌入的对比学习

目录引言对比学习ContrastiveLearningSimCSE思想无监督下的SimCSE有监督下的SimCSE连接各向异性ConnectiontoAnisotropy分析引言SimCSE来自论文：SimCSE
tzc_fly·2022-11-07 21:41

simcse实践使用

实践目标：跑通simcse，看看和传统bert比，是否表征能力更强，是否相似句的相似度更高，非相似句的相似度更低。
programerchen·2022-11-07 21:40

NLP，对比学习SimCSE和Rdrop的区别

https://blog.csdn.net/c9Yv2cf9I06K2A9E/article/details/118447050参考文章2：https://www.modb.pro/db/379565SimCSE
愚昧之山绝望之谷开悟之坡·2022-11-07 21:40

SimCSE论文精读

写在前面大家好，我是刘聪NLP。「句向量表征技术」一直都是NLP领域的热门话题，在BERT前时代，一般都采用word2vec训练出的word-embedding结合pooling策略进行句向量表征，或者在有训练数据情况下，采用TextCNN/BiLSTM结合Siamesenetwork策略进行句向量表征。在BERT时代，人们借助预训练语言模型的固有优势，一般采用BERT模型的[CLS]向量作为句向
刘聪NLP·2022-11-07 21:09

文本匹配之SimCSE模型

目录前言模型结构模型原理模型训练特别说明模型效果参考前言论文全名：SimCSE:SimpleContrastiveLearningofSentenceEmbeddings论文地址：https://aclanthology.org
dzysunshine·2022-11-07 21:39

SimCSE 对比学习方法

SimCSE对比学习方法某厂四面技术面面试过程问到了这个，遂记录一下，补个漏早期计算句子相似性的方法之前写过一篇博客，记录的是比较早期的文本相似性计算方法，感兴趣可以移步文本相似性计算。
彭伟_02·2022-11-07 21:39

【自然语言处理】【对比学习】SimCSE：基于对比学习的句向量表示

相关博客：【自然语言处理】【对比学习】SimCSE：基于对比学习的句向量表示【自然语言处理】BERT-Whitening【自然语言处理】【Pytorch】从头实现SimCSE【自然语言处理】【向量检索】
BQW_·2022-11-07 21:08

【自然语言处理】【Pytorch】从头实现SimCSE

相关博客：【自然语言处理】【对比学习】SimCSE：基于对比学习的句向量表示【自然语言处理】BERT-Whitening【自然语言处理】【Pytorch】从头实现SimCSE【自然语言处理】【向量检索】
BQW_·2022-11-07 21:08

[nlp] SimCSE

SimCSE（文本）：【单塔无监督】利用同一输入每次过dropout后生成不同embedding的特性，完美规避了传统文本增强方法伴随的语义漂移问题，同一文本dropout两次得到正样本（的embedding
(∩ᵒ̴̶̷̤⌔ᵒ̴̶̷̤∩)·2022-11-07 21:07

【自然语言处理】【检索】GENER：自回归实体检索

arxiv.org/pdf/2010.00904.pdf相关论文【自然语言处理】【检索】GENER：自回归实体检索【自然语言处理】【向量检索】面向开放域稠密检索的多视角文档表示学习【自然语言处理】【对比学习】SimCSE
BQW_·2022-09-21 17:07

【自然语言处理】【向量表示】AugSBERT：改善用于成对句子评分任务的Bi-Encoders的数据增强方法

DataAugmentationMethodforImprovingBi-EncodersforPairwiseSentenceScoringTasks》论文地址：https://arxiv.org/pdf/2010.08240.pdf相关博客：【自然语言处理】【对比学习】SimCSE
BQW_·2022-08-09 07:39

【自然语言处理】【向量检索】面向开放域稠密检索的多视角文档表示学习

Multi-ViewDocumentRepresentationLearningforOpen-DomainDenseRetrieval》论文地址：https://arxiv.org/pdf/2203.08372.pdf相关博客：【自然语言处理】【对比学习】SimCSE
BQW_·2022-08-09 07:08

【自然语言处理】【向量表示】PairSupCon：用于句子表示的成对监督对比学习

PairwiseSupervisedContrastiveLearningofSentenceRepresentations》论文地址：https://arxiv.org/pdf/2109.05424.pdf相关博客：【自然语言处理】【对比学习】SimCSE
BQW_·2022-08-09 07:31

文本语义表征(Sentence-Bert、Simcse)的应用和实践

文本语义向量的应用场景(搜索、对话和推荐)所谓"万物皆可embedding",在nlp的领域中，回想一下，起初用于把文字转化向量，用的是最基础的词袋模型，类似于one-hot，不得不说，这种做法很简单粗暴，但问题是维度过高，并且有些词出现多次一般来说更重要，而这种词袋模型无法表示这种情况。于是出现了以频率为权重的词袋模型，这种词袋模型认为频率高的词有着更高的重要度，但是常识告诉我们，出现多次的词并
谈笑风生...·2022-06-27 07:48

解读万方学术检索——SimCSE、Sentence-BERT…

又是一年开学季，看着大批莘莘学子步入高校，同时又有大批学生即将面临毕业，这一年要饱受论文的洗礼。在学术论文领域，几乎每一位大学生都避不开论文检索、查重环节。想写出一篇高质量论文，前期大量的信息储备必不可少，而文献检索成为我们获取信息的重要途径。万方数据知识服务平台以客户需求为导向，整合了数亿条全球优质知识资源，依托强大的数据采集能力，应用先进的信息处理技术和检索技术，为决策主体、科研主体、创新主体
Evan-yzh·2022-05-21 07:17

SimCSE简介以及核心代码详解——无监督文本向量抽取

今年NLP领域出现了一个比较火的模型叫SimCSE,文章的全称是SimpleContrastiveLearningofSentenceEmbeddings。
王同学死磕技术·2022-04-18 17:15

无监督对比学习SIMCSE理解和中文实验操作

从Sentencebert到bertflow，再到苏神的bertWhitening，再到2021年的SIMCSE，文本匹配无监督和有监督SOTA不断在提升。
colourmind·2022-03-18 05:41

Raki的读paper小记：SimCSE: Simple Contrastive Learning of Sentence Embeddings

Abstract&Introduction&RelatedWork研究任务sentenceembedding已有方法和相关工作面临挑战创新思路用一种非常简单的无监督对比学习方法，来预测自己，仅仅使用标准的dropout作为噪声与以前的工作不同的是，之前的工作将其作为一个三分类任务（蕴含、中性和矛盾），我们利用蕴含对可以自然地作为正向实例的事实实验结论sota我们发现，dropout作为最小的数据增
爱睡觉的Raki·2022-03-14 07:14

恒源云(GPUSHARE)_[SimCSE]：对比学习，只需要 Dropout?

文章来源|恒源云社区(恒源云)原文地址|Dropout原文作者|Mathor要说2021年上半年NLP最火的论文，想必非《SimCSE:SimpleContrastiveLearningofSentenceEmbeddings
恒源云·2022-02-28 10:12

恒源云(GPUSHARE)_云GPU服务器如何使用SpaCy？

戳可查看，也许就有你需要的知识点哦～恒源云_[SimCSE]：对比学习，只需要Dropout?
恒源云·2022-02-28 10:08

simCSE：论文解读

image.png论文地址：https://arxiv.org/pdf/2104.08821.pdf论文标题：SimCSE:SimpleContrastiveLearningofSentenceEmbeddings
涓涓自然卷·2022-02-17 17:55

基于领域预训练和对比学习SimCSE的语义检索

今天小编就手把手带大家完成一个基于领域预训练和对比学习SimCSE的语义检索小系统。
·2022-01-13 15:17

恒源云_[SimCSE]：对比学习，只需要 Dropout?

文章来源|恒源云社区(恒源云，专注AI行业的共享算力平台)原文地址|Dropout原文作者|Mathor要说2021年上半年NLP最火的论文，想必非《SimCSE:SimpleContrastiveLearningofSentenceEmbeddings
·2021-12-29 17:40

NLP实践——基于SBERT的语义搜索，语义相似度计算，SimCSE、GenQ等无监督训练

基于SBERT的语义搜索，语义相似度计算，SimCSE、GenQ等无监督训练0.由SBERT引发的一些思考1.SBERT介绍2.基本应用2.1语义相似度计算2.2语义搜索2.3聚类和主题模型2.4图片检索
常鸿宇·2021-08-23 20:40

【NLP论文笔记】SimCSE: Simple Contrastive Learning of Sentence Embeddings--random dropout mask（SimCSE）

论文链接：https://arxiv.org/pdf/2104.08821.pdf基本目录如下：摘要核心思想总结------------------第一菇-摘要------------------1.1论文摘要------------------第一菇-核心思想------------------2.1核心思想------------------第三菇-总结------------------3.
蘑菇轰炸机·2021-06-11 13:45
上一页 1 2 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他